نظریه ذهن و هماهنگی خودجوش در سیستم‌های چندایجنت

در طراحی سیستم‌های چندایجنت (Multi-agent)، بارها دیده‌ایم که ایجنت‌ها رفتارهایی شبیه به همکاری تیمی نشان می‌دهند و به‌نظر می‌رسد بدون تداخل کارهای پیچیده را جلو می‌برند. با این حال، در محیط‌های پروداکشن بسیاری از این رفتارهای به‌ظاهر هوشمند صرفاً «توهم هماهنگی» هستند؛ یعنی اثری ناپایدار که مستقیماً با پرامپت‌هایی مثل «با هم همکاری کنید» به مدل تزریق شده و با کمی تغییر در ورودی یا طولانی‌شدن گفت‌وگو فرو می‌پاشد.

حل این مسئله نیازمند ورود ابزاری از روان‌شناسی شناختی به‌نام «نظریه‌ی ذهن» (Theory of Mind یا ToM) است. پژوهش‌های اخیر نشان می‌دهند که هماهنگی پایدار فقط زمانی در میان مدل‌های زبانی شکل می‌گیرد که ایجنت‌ها بتوانند باورهای ذهنی دیگران را مستقل از مشاهدات خود مدل‌سازی کنند. این درس به شما یاد می‌دهد که چگونه مراتب مختلف ToM را پیاده کنید و با شاخص‌های آماری بسنجید که آیا سیستم شما واقعاً هماهنگ عمل می‌کند یا فقط ادای همکاری را درمی‌آورد.

لی و همکاران (arXiv:2310.10701) نشان دادند ایجنت‌های مبتنی بر مدل‌های زبانی بزرگ (LLM) در یک بازی متنی مشارکتی، نظریه‌ی ذهن خودجوش مرتبه‌بالا (Higher-order Theory of Mind یا ToM) از خود نشان می‌دهند — یعنی استدلال درباره‌ی این‌که یک ایجنت دیگر درباره‌ی باورهای ایجنت سومی چه فکری می‌کند — اما در برنامه‌ریزی‌های بلندمدت به‌دلیل مدیریت کانتکست و توهم با شکست مواجه می‌شوند. ریدل (arXiv:2510.05174) هم‌افزایی مرتبه‌بالا را در سطح یک جمعیت سنجید و دریافت که تنها شرط پرامپت‌نویسی مبتنی بر ToM است که تمایز وابسته به هویت و مکمل‌بودنِ هدف‌محور ایجاد می‌کند؛ مدل‌های زبانی ضعیف‌تر فقط هماهنگی کاذب نشان می‌دهند. به‌بیان دیگر، ظهور هماهنگی به پرامپت و توانمندی مدل وابسته است و رایگان به‌دست نمی‌آید. در این درس، یک ایجنت مینیمالِ مجهز به نظریه‌ی ذهن پیاده‌سازی می‌کنیم، یک وظیفه‌ی مشارکتی را با و بدون پرامپت‌نویسی ToM اجرا می‌کنیم و اختلاف هماهنگی را طبق پروتکل 2025 ریدل می‌سنجیم.

صورت مسئله

هماهنگی چندایجنت معمولاً شگفت‌انگیز به‌نظر می‌رسد: ایجنت‌ها کارها را تقسیم می‌کنند، حرکات یکدیگر را پیش‌بینی می‌کنند و جلوی کارهای تکراری را می‌گیرند. در عمل، بیشتر اوقات این «رفتار خودجوش» دست‌سازه‌ای حاصل از مهندسی پرامپت است؛ یعنی کسی صریحاً به ایجنت‌ها گفته «هماهنگ عمل کنید». پرامپت را بردارید، هماهنگی هم ناپدید می‌شود.

یافته‌ی سال 2025 ریدل سخت‌گیرانه‌تر است: در شرایط کنترل‌شده، هماهنگی فقط زمانی شکل می‌گیرد که با پرامپت از ایجنت‌ها بخواهیم درباره‌ی ذهن سایر ایجنت‌ها (ToM) استدلال کنند. بدون پرامپت ToM، حتی مدل‌های قوی الگوهایی از هماهنگی نشان می‌دهند که در آزمون‌های آماری کنترل‌شده دوام نمی‌آورند. این نکته برای محیط عملیاتی (پروداکشن) بسیار حیاتی است: تیم‌ها قابلیت‌هایی با عنوان «هماهنگی چندایجنت» روانه‌ی بازار می‌کنند که کاملاً وابسته به پرامپت و بسیار شکننده‌اند.

در این درس به نظریه‌ی ذهن به‌عنوان یک قابلیت مشخص (استدلال درباره‌ی باورها پیرامون باورها) نگاه می‌کنیم، یک ایجنت مینیمالِ مجهز به ToM می‌سازیم و تفاوت هماهنگی واقعی با ظاهرسازی‌های پرامپتی را اندازه می‌گیریم.

مفاهیم پایه

منظور از نظریه‌ی ذهن چیست؟

از دید روان‌شناسی رشد: یک کودک 3 ساله فکر می‌کند دنیای درونی همه دقیقاً مثل دنیای درونی خودش است. یک کودک 5 ساله می‌فهمد دیگران باورهای متفاوتی دارند. یک کودک 7 ساله می‌تواند درباره‌ی باورها پیرامون باورها استدلال کند («او فکر می‌کند من فکر می‌کنم توپ زیر فنجان است»). این‌ها به‌ترتیب نظریه‌ی ذهن مرتبه صفر، مرتبه اول و مرتبه دوم هستند.

برای ایجنت‌های مبتنی بر مدل زبانی، مراتب نظریه‌ی ذهن به این صورت تعریف می‌شوند:

• مرتبه صفر: هیچ مدلی از دیگران وجود ندارد. ایجنت فقط بر اساس مشاهدات خودش عمل می‌کند.
• مرتبه اول: ایجنت مدلی از باورهای تک‌تک ایجنت‌های دیگر دارد: «آلیس به X باور دارد.»
• مرتبه دوم: ایجنت باورهای بازگشتی را مدل‌سازی می‌کند: «آلیس فکر می‌کند باب به X باور دارد.»

لی و همکاران (2023) دریافتند ToM مرتبه اول و دوم در ایجنت‌های LLM هنگام بازی‌های مشارکتی پدیدار می‌شود، اما در افق‌های زمانی طولانی و در شرایط ارتباطات غیرقابل‌اعتماد به‌شدت افت می‌کند.

آزمون سالی-آن به‌زبان ساده

یک آزمون باور کاذب محصول سال 1985: سالی یک تیله را در سبد A می‌گذارد و اتاق را ترک می‌کند. آن تیله را برمی‌دارد و در سبد B می‌گذارد. وقتی سالی برمی‌گردد، کجا را می‌گردد؟ کودکی با نظریه‌ی ذهن مرتبه اول می‌گوید سبد A (چون باور سالی با واقعیت فرق دارد). کودکی بدون این درک می‌گوید سبد B.

مدل‌های زبانی دوران GPT-4 آزمون‌های سرراست سبک سالی-آن را با موفقیت پشت سر می‌گذارند. اما وقتی روایت طولانی شود، صحنه چند بار تغییر کند یا سؤال به‌صورت غیرمستقیم پرسیده شود، شکست می‌خورند. این همان وضعیت واقعی ToM در مدل‌های زبانی پروداکشن در سال 2026 است.

سنجش هماهنگی ریدل

ریدل (arXiv:2510.05174) آزمونی در مقیاس جمعیت طراحی کرد: N ایجنت، یک هدف مشارکتی و شرایط مختلف پرامپت‌نویسی. معیارهای سنجش عبارت بودند از:

1. تمایز وابسته به هویت (Identity-linked differentiation): آیا ایجنت‌ها در طول زمان نقش‌های متمایز و پایداری به خود می‌گیرند؟
2. مکمل‌بودن هدف‌محور (Goal-directed complementarity): آیا اعمال ایجنت‌ها به‌جای دوباره‌کاری، مکمل یکدیگر است (پوشش زیروظیفه‌های مختلف)؟
3. هم‌افزایی مرتبه‌بالا (Higher-order synergy): معیاری آماری برای بررسی این‌که آیا گروه به دستاوردی فراتر از توان هر زیرمجموعه‌ای از اعضا رسیده است یا نه.

نتیجه: فقط در شرایط پرامپت‌نویسی مبتنی بر ToM بود که هر سه معیار سیگنالی بالاتر از خط مبنا (Baseline) ثبت کردند. بدون پرامپت ToM، معیارها برای مدل‌هایی با توان متوسط در حد شانس و تصادف باقی ماندند. مدل‌های بسیار بزرگ بدون پرامپت صریح هم مقداری هماهنگی نشان دادند، ولی اثر آن بسیار کمتر از حالت پرامپت‌نویسی مستقیم بود.

توهم هماهنگی

اگر کنترل‌های آماری را کنار بگذاریم، آنچه در دموها «هماهنگی خودجوش» (Emergent Coordination) نامیده می‌شود اغلب نتیجه‌ی موارد زیر است:

• مهندسی پرامپتی که هماهنگی را از قبل تزریق کرده است (پرامپت‌های سیستمی که می‌گویند «با هم کار کنید»).
• سوگیری ناظر (دیدن همان الگوهایی که انتظار دیدنشان را داریم).
• انتخاب گلچین‌شده‌ی اجراهای موفق پس از آزمایش.

سیستم‌های عملیاتی که بدون ارائه‌ی سیگنال‌های قابل‌اندازه‌گیری از «هماهنگی خودجوش» دم می‌زنند، صرفاً بازی‌های تبلیغاتی‌اند. پیش از هر ادعایی، بسنجید.

یک ایجنت مینیمال مجهز به نظریه‌ی ذهن

ساختار:

agent state:
  own_beliefs:    {facts the agent believes}
  other_models:   {other_agent_id -> {beliefs_the_agent_attributes_to_them}}
  actions_last_N: [history of others' actions]

observation update:
  - update own_beliefs from direct observation
  - update other_models[agent_id] from their action + prior beliefs

action selection:
  - enumerate candidate actions
  - for each, predict what each other agent will do next given their modeled beliefs
  - pick action that maximizes joint outcome under those predictions

ویژگی other_models همان وضعیت ToM است. در ToM مرتبه اول فقط یک لایه نگه می‌داریم. در مرتبه دوم، other_models[i][other_models_of_j] اضافه می‌شود؛ یعنی تصور من از این‌که ایجنت i چه تصوری از باورهای ایجنت j دارد.

چرا افق‌های زمانی بلند آسیب‌زننده‌اند؟

همان‌طور که لی و همکاران نشان دادند: محدودیت‌های کانتکست باعث می‌شود ایجنت فراموش کند کدام باور متعلق به چه کسی بود. توهم نیز باورهای نادرستی به مدل ذهنی سایر ایجنت‌ها تزریق می‌کند. هر دو عامل به خطاهای «فکر می‌کردم او فکر می‌کند X» منجر می‌شوند و این خطاها در طول زمان تشدید خواهند شد.

راهکارهای کاهش این مشکل که در مقاله و پژوهش‌های سال‌های 2024 تا 2026 مطرح شده‌اند:

• ثبت صریح وضعیت ToM در پرامپت: استفاده از فرمت‌های ساختاریافته مثل {agent_id: belief_list}. این کار مدل را وادار می‌کند تا هنگام بازیابی، پیوند بین هویت و باور را حفظ کند.
• زنجیره‌های استدلال کوتاه‌تر: کاهش تعداد دفعات به‌روزرسانی ToM در هر نوبت گفت‌وگو (Turn)، خطاهای ناشی از توهمِ فزاینده را کمتر می‌کند.
• حافظه‌ی خارجی برای ToM: مدل ذهنی را بیرون از کانتکست LLM نگه دارید و در هر نوبت فقط بخش‌های مرتبط را تزریق کنید.

نقاط شکست نظریه‌ی ذهن در پروداکشن

• محیط‌های خصمانه: ایجنت‌هایی با ToM قوی راحت‌تر فریب می‌خورند (حریف می‌تواند مدلی را که آن‌ها از او ساخته‌اند بازسازی کند و علیه خودشان به‌کار بگیرد).
• تیم‌های ناهمگن: وقتی مدل‌ها یکسان نباشند، مدل ذهنی‌ای که برای یک حریف جواب می‌دهد به بقیه تعمیم پیدا نمی‌کند.
• وظایف وابسته به واقعیت عینی: نظریه‌ی ذهن به باورها مربوط است؛ اگر درستی کار به فکت‌های واقعی وابسته باشد، ToM می‌تواند حواس ایجنت را پرت کند.

هماهنگی‌ای که واقعاً می‌توانید اندازه بگیرید

سه سیگنال عملی وجود دارد که نشان می‌دهد هماهنگی در یک تیم واقعی است، نه نمایشی حاصل از مهندسی پرامپت:

1. مکمل‌بودن در طول زمان: آیا در طول یک وظیفه‌ی چندنوبته، اقدامات ایجنت‌ها زیروظیفه‌های کاملاً مجزایی را پوشش می‌دهد؟
2. پیش‌بینی: آیا اقدام ایجنت A در نوبت T+1 بر اساس پیش‌بینی درستی از اقدام ایجنت B در نوبت T+2 شکل گرفته است؟
3. اصلاح خطا: اگر A باور B را در نوبت T اشتباه متوجه شود، آیا تا نوبت T+2 آن را اصلاح می‌کند؟

این‌ها مواردی هستند که در لاگ‌های یک سیستم چندایجنت کاملاً اندازه‌گیری می‌شوند. هماهنگی واقعی دقیقاً یعنی همین، نه بازی با کلمات.

پیاده‌سازی از صفر

کد code/main.py شامل بخش‌های زیر است:

• ToMAgent — باورهای خود ایجنت و مدل‌های باوری مربوط به سایر ایجنت‌ها را ردیابی می‌کند.
• یک وظیفه‌ی مشارکتی: سه ایجنت باید سه توکن را از سه جعبه جمع‌آوری کنند؛ هر جعبه می‌تواند یک توکن داشته باشد. ایجنت‌ها امکان ارتباط مستقیم ندارند و نیت (Intent) یکدیگر را از روی حرکات هم استنباط می‌کنند.
• دو پیکربندی: zeroth_order (بدون ToM) و first_order (مجهز به ToM با مدل باوری تک‌سطحی).
• سنجش روی 200 اجرای تصادفی: نرخ تکمیل وظیفه، نرخ کارهای تکراری (هدف گرفتن یک جعبه‌ی مشترک توسط دو ایجنت) و میانگین نوبت‌ها تا تکمیل کار.

اجرا:

python3 code/main.py

خروجی مورد انتظار: ایجنت‌های مرتبه صفر در حدود 35% مواقع کار تکراری انجام می‌دهند و نزدیک به 60% آزمون‌ها را در 10 نوبت تمام می‌کنند. ایجنت‌های دارای نظریه‌ی ذهن مرتبه اول کارهای تکراری را به حدود 5% می‌رسانند و نرخ تکمیلشان به حدود 95% می‌رسد. این اختلاف، اثر قابل‌اندازه‌گیریِ هماهنگی است.

استفاده از ابزارهای واقعی

فایل outputs/skill-tom-auditor.md مهارتی است برای بررسی ادعای «هماهنگی خودجوش» در یک سیستم چندایجنت. این مهارت مواردی مثل ظاهرسازی‌های پرامپتی، معناداری آماری نسبت به گروه کنترل و میزان مکمل‌بودنِ سنجیده‌شده را ارزیابی می‌کند.

چک‌لیست عملیاتی

چک‌لیست راستی‌آزمایی ادعاهای هماهنگی:

• شرایط کنترل: نسخه‌ای از سیستم خود را بدون پرامپت‌های مربوط به هماهنگی بسازید و هر دو را بسنجید.
• آزمون آماری: آیا اختلاف بین سیستم اصلی و گروه کنترل در معیار شما از نظر آماری معنادار (p < 0.05) است؟
• سنجش مکمل‌بودن: مجزا بودن اعمال را در طول زمان اندازه بگیرید، نه فقط موفقیت نهایی را.
• لاگ حالت‌های شکست: وقتی ناهماهنگی پیش می‌آید، وضعیت ToM به چه صورت است؟
• شفافیت درباره‌ی ظرفیت مدل: اگر این اثر روی مدل‌های کوچک‌تر ناپدید می‌شود، آن را صراحتاً اعلام کنید.

تمرین‌ها

1. اسکریپت code/main.py را اجرا کنید. مطمئن شوید ToM مرتبه اول نرخ دوباره‌کاری را تا حدود 7 برابر کاهش می‌دهد. آیا با افزایش تعداد به 5 ایجنت و 5 جعبه این فاصله همچنان حفظ می‌شود؟
2. نظریه‌ی ذهن مرتبه دوم را پیاده کنید (ایجنت A مدل‌سازی کند که B درباره‌ی C چه فکری می‌کند). آیا عملکرد نسبت به مرتبه اول بهتر می‌شود؟ در چه نوع وظایفی؟
3. یک توهم به وضعیت ToM تزریق کنید: در هر نوبت یک باور را به‌طور تصادفی معکوس کنید. این کار چقدر به عملکرد مرتبه اول ضربه می‌زند؟
4. مقاله‌ی لی و همکاران (arXiv:2310.10701) را بخوانید. یافته‌ی «افت عملکرد در افق‌های زمانی بلند» را بازتولید کنید: با افزایش نوبت‌ها از 10 به 30، عملکرد ToM مرتبه اول شما چه تغییری می‌کند؟
5. مقاله‌ی ریدل 2025 (arXiv:2510.05174) را بخوانید. شاخص آماری هم‌افزایی مرتبه‌بالا را روی لاگ‌های شبیه‌سازی خود پیاده کنید. آیا این اثر بدون شرایط پرامپت‌نویسی ToM هم دیده می‌شود؟

اصطلاحات کلیدی

برای مطالعه‌ی بیشتر

• لی و همکاران — نظریه‌ی ذهن برای همکاری چندایجنت از طریق مدل‌های زبانی بزرگ — ظهور خودجوش ToM در بازی‌های مشارکتی؛ حالت‌های شکست در افق‌های زمانی بلند
• ریدل — هماهنگی خودجوش در مدل‌های زبانی چندایجنت — سنجش در مقیاس جمعیت؛ پرامپت‌نویسی ToM شرط اصلی و تعیین‌کننده است
• پریماک و وودراف — آیا شامپانزه نظریه‌ی ذهن دارد؟ — مقاله‌ی سال 1978 که مفهوم ToM را پایه‌گذاری کرد
• بارون-کوهن، لزلی، فریث — آیا کودک مبتلا به اوتیسم نظریه‌ی ذهن دارد؟ — مقاله‌ی آزمون سالی-آن (1985)