تحمل خطای بیزانسی و پروتکل‌های اجماع در سامانه‌های چند ایجنتی

وقتی چند ایجنت هوش مصنوعی برای حل یک مسئله کنار هم قرار می‌گیرند، اختلاف نظر میان آن‌ها اجتناب‌ناپذیر است. در سیستم‌های توزیع‌شده‌ی سنتی، رأی‌گیری اکثریتی یا پروتکل‌های کلاسیک تحمل خطای بیزانسی (Byzantine Fault Tolerance یا BFT) برای رسیدن به توافق استفاده می‌شدند. با این حال، استفاده از همان رویکردها برای ایجنت‌های مبتنی بر مدل‌های زبانی با چالش‌های جدی روبرو است؛ زیرا ایجنت‌ها رفتارهای تصادفی دارند و اگر از مدل پایه‌ی مشترک استفاده کنند، همگی دچار توهم و خطاهای همبسته می‌شوند.

در سیستم‌های چند ایجنتی نوین، یک ایجنت فریبکار یا ایجنتی با رفتار چاپلوسانه که صرفاً پاسخ دیگران را تکرار می‌کند، می‌تواند کل فرآیند تصمیم‌گیری را منحرف سازد. این درس به شما نشان می‌دهد چطور مبانی کلاسیک BFT را با تکنیک‌های مدرن سال‌های 2025 و 2026 بازسازی کنید، پاسخ‌ها را با خوشه‌بندی معنایی گروه‌بندی کنید و وزن‌دهی بر پایه‌ی اطمینان یا میانه‌ی هندسی را برای حفظ صحت تصمیم‌ها به کار بگیرید.

تقاطع سیستم‌های توزیع‌شده‌ی کلاسیک (BFT) و مدل‌های زبانی تصادفی (Stochastic LLMs). در سال‌های 2025 تا 2026 سه مسیر پژوهشی شکل گرفت: CP-WBFT (مقاله arXiv:2511.10400) که وزن هر رأی را بر اساس یک آزمون ارزیابی اطمینان (Confidence probe) می‌سنجد؛ DecentLLMs (مقاله arXiv:2507.14928) که ساختاری بدون لیدر (Leaderless) با پیشنهادهای موازی از سمت ورکرها و تجمیع از طریق میانه‌ی هندسی (Geometric median) دارد؛ و WBFT (مقاله arXiv:2505.05103) که رأی‌گیری وزن‌دار را با خوشه‌بندی ساختار سلسله‌مراتبی ترکیب می‌کند تا گره‌ها به دو دسته‌ی هسته (Core) و لبه (Edge) تقسیم شوند. نتیجه‌ی تجربی و صادقانه‌ی مقاله‌ی «آیا ایجنت‌های هوش مصنوعی می‌توانند به توافق برسند؟» (arXiv:2603.01213) این است که توافق روی مقادیر اسکالر هم امروزه بسیار شکننده است؛ یک ایجنت فریبکار به‌تنهایی می‌تواند یک سیستم متشکل از چند ایجنت (Mixture-of-Agents) را به بیراهه بکشاند. استفاده از BFT ضروری است، اما کافی نیست. در این درس، یک پروتکل مینیمال BFT می‌سازیم، سه سناریوی حمله‌ی ویژه‌ی ایجنت‌ها (دروغ بیزانسی، همرنگی چاپلوسانه و خطای همبسته‌ی ناشی از تک‌کشت یا Monoculture) را تزریق می‌کنیم و نحوه‌ی مواجهه‌ی هر رویکرد اجماع را می‌سنجیم.

مسئله

فرض کنید N ایجنت مبتنی بر مدل‌های زبانی دارید که هرکدام پاسخی تولید می‌کنند و با هم اختلاف نظر دارند. رأی‌گیری اکثریتی پاسخ غلط را انتخاب می‌کند، چون دو ایجنت با هم همبستگی دارند (مدل پایه‌ی یکسان، داده‌های آموزشی یکسان و حالت‌های شکست یکسان). ایجنت سومی هم به شکلی تازه و متفاوت دچار اشتباه می‌شود؛ در نتیجه اکثریت حاصل، یک اکثریت کاذب است.

حالا یک ایجنت فریبکار را اضافه کنید که عمداً دروغ می‌گوید؛ یا یک ایجنت چاپلوس (Sycophantic) که با هرکس که آخرین بار صحبت کرده موافقت می‌کند. در BFT کلاسیک فرض بر این است که گره‌های بیزانسی نسبتی کمتر از f < n/3 دارند و رفتاری دلبخواهی نشان می‌دهند. واقعیت سال 2026 این است که گره‌های مبتنی بر مدل‌های زبانی حتی در صورت صادق بودن هم تصادفی رفتار می‌کنند، در میان مدل‌های مختلف با یکدیگر همبستگی دارند و از خروجی‌های هم تأثیر می‌پذیرند. نمی‌توانید با آن‌ها مثل رأی‌دهندگان مستقل برنولی رفتار کنید.

پروتکل کلاسیک BFT (مثل PBFT در سال 1999) اشتباه نیست، بلکه ناقص است. خطاهای ناشی از تغییر دلبخواهی بیت‌ها را مدیریت می‌کند، اما حریف این وضعیت نمی‌شود که «سه ایجنت صادق به خاطر داده‌های آموزشی مشترک، دچار توهمی یکسان می‌شوند». این درس از پایه‌ی PBFT شروع می‌کند و سه سازوکار انطباقی سال‌های 2025 و 2026 را روی آن پیاده می‌سازد.

مفهوم

آورده‌ی پروتکل‌های کلاسیک BFT

پروتکل تحمل خطای بیزانسی کاربردی یا PBFT (ارائه‌شده توسط Castro و Liskov در OSDI 1999) تا سقف f < n/3 گره‌ی بیزانسی را تاب می‌آورد. این پروتکل سه فاز (پیش‌آماده‌سازی، آماده‌سازی، commit) و دو عنصر بنیادین (پیام‌های امضاشده، گواهی‌های حد نصاب یا Quorum certificates) دارد. هدف، رسیدن به توافق بر سر یک مقدار واحد میان n >= 3f + 1 گره‌ی صادق یا مخرب است.

تضمین‌های پروتکل محکم است، اما با این فرضیات:

1. خطاهای مستقل: گره‌های بیزانسی با هم هماهنگ نیستند.
2. گره‌های صادق واقعاً صادق‌اند: درستی خروجی گره‌های صادق اصلاً محل بحث نیست؛ پروتکل فقط اختلاف‌ها را هم‌راستا می‌کند.
3. پرسش دارای داده‌ی واقعی (Ground truth) است: اجماع بر سر یک فکت اشتباه، از نظر پروتکل همچنان اجماع است.

ایجنت‌های مبتنی بر مدل‌های زبانی هر سه فرض را نقض می‌کنند. دو ایجنت با مدل پایه‌ی یکسان، خطاهای مشترک دارند. یک مدل زبانی «صادق» همچنان دچار توهم می‌شود. روی پرسش‌های مبهم هم «حقیقت» همان چیزی است که ایجنت‌ها رویش توافق می‌کنند؛ هیچ مرجع حقیقتی (اوراکل) در کار نیست.

سه حمله‌ی ویژه‌ی مدل‌های زبانی

دروغ بیزانسی (Byzantine lie): یک ایجنت عمداً پاسخی نادرست تولید می‌کند. BFT کلاسیک اگر f < n/3 باشد، به سادگی جلوی آن می‌ایستد.

همرنگی چاپلوسانه (Sycophantic conformity): یک ایجنت پیش از رأی دادن، پاسخ‌های دیگران را می‌خواند و با نظر آخرین فرد همراه می‌شود. بدخواهانه نیست، اما با رساترین صدا همبستگی پیدا می‌کند. BFT کلاسیک جلوی این را نمی‌گیرد، چون ایجنت از پسِ تمام بررسی‌های امضا برمی‌آید.

خطای همبسته در تک‌کشت (Correlated-error monoculture): سه ایجنت از یک مدل پایه‌ی مشترک استفاده می‌کنند و همگی دچار توهم یکسانی می‌شوند. اکثریت اشتباه می‌کند. BFT کلاسیک کمکی نمی‌کند، چون هر سه ایجنت کاملاً «صادقانه» با یکدیگر موافق‌اند.

راهکارهای 2025 تا 2026

الگوریتم CP-WBFT (مقاله arXiv:2511.10400) — تحمل خطای بیزانسی وزن‌دار مبتنی بر آزمون ارزیابی اطمینان. هر رأی‌دهنده یک آزمون اطمینان (احتمال خوداظهاری‌شده یا پیش‌بینی یک مدل کالیبراسیون مستقل) به پاسخ خود ضمیمه می‌کند. وزن آرا با ضریب اطمینان مقیاس می‌شود. طبق گزارش‌ها، این روش بهبود 85.71% در BFT روی گراف‌های کامل ثبت کرده است. راهکاری برای: مهار همرنگی چاپلوسانه (ایجنت‌های همرنگ معمولاً در موضع اعلامی خود اطمینان پایینی دارند).

سیستم DecentLLMs (مقاله arXiv:2507.14928) — بدون لیدر. ایجنت‌های ورکر به‌صورت موازی پیشنهاد می‌دهند، ایجنت‌های ارزیاب به پیشنهادها امتیاز می‌دهند و پاسخ نهایی، میانه‌ی هندسی مواضع امتیازدهی‌شده است. در شرایط f < n/2 مقاوم است. راهکاری برای: مهار دروغ بیزانسی و خطاهای همبسته (میانه‌ی هندسی در برابر داده‌های پرت مقاوم است و خروجی را به سمت خوشه‌ی متراکم می‌کشد، نه میانگینی که سوگیری مدل روی آن اثر گذاشته باشد).

الگوریتم WBFT (مقاله arXiv:2505.05103) — مدل BFT وزن‌دار با خوشه‌بندی ساختار سلسله‌مراتبی. وزن آرا بر اساس کیفیت پاسخ به‌علاوه‌ی امتیاز اعتمادی که از تاریخچه آموخته شده تعیین می‌شود. ایجنت‌ها به دو دسته‌ی هسته و لبه خوشه‌بندی می‌شوند؛ ایجنت‌های هسته باید ابتدا به اجماع برسند و ایجنت‌های لبه از آن‌ها تبعیت کنند. راهکاری برای: مقیاس‌پذیری (اجماع در هسته کوچک و سریع انجام می‌شود) و مهار نسبی خطای تک‌کشت (هسته را می‌توان بر اساس تنوع مدل‌ها انتخاب کرد).

نتایج تجربی: «آیا ایجنت‌های هوش مصنوعی می‌توانند به توافق برسند؟» (arXiv:2603.01213)

این مقاله میزان توافق روی مقادیر اسکالر (توافق ایجنت‌های زبانی روی یک عدد مشخص) را میان چندین مدل مرجع پیشرو بررسی می‌کند. یافته‌ها ناامیدکننده‌اند:

• حتی بدون حضور هیچ عامل مخربی، نرخ عدم توافق ایجنت‌ها روی پرسش‌های اسکالر در بسیاری از بنچمارک‌ها بالای 30% است.
• یک ایجنت منفرد با پرسونای فریبکار می‌تواند اجماع سیستم چندایجنت را بیش از 40 درصد از خط مبنای (Baseline) صادقانه منحرف کند.
• نرخ عدم توافق مستقیماً با تنوع مدل‌ها همبستگی دارد؛ مجموعه‌های ناهمگن بیشتر از مجموعه‌های همگن دچار اختلاف نظر می‌شوند (خوب: خطاهای غیرهمبسته)، اما دیرتر همگرا می‌شوند (بد: زمان طولانی‌تر تا رسیدن به توافق).

نتیجه: BFT ابزارهای هم‌راستاسازی خروجی‌ها را به شما می‌دهد، اما به شما نمی‌گوید آیا خروجیِ حاصل از اجماع درست است یا نه. آن را با اعتبارسنجی (فاز 16 · درس 08: تخصیص نقش)، تنوع مدل‌ها (فاز 16 · درس 15: انواع مناظره) و ایجنت‌های ارزیاب (فاز 16 · درس 24: بنچمارک‌ها) ترکیب کنید.

پروتکل اصلی به شکل خلاصه‌شده

یک دور مینیمال BFT برای ایجنت‌های زبانی:

1. task arrives; each agent i produces answer a_i
2. each agent attaches confidence probe c_i in [0, 1]
3. aggregator collects (a_i, c_i) from all n agents
4. aggregator groups by semantic cluster (equivalent answers)
5. aggregator computes weight for each cluster C:
     w(C) = sum_{i in C} c_i
6. winner = cluster with max weight, if max > threshold * sum(c_i)
   else: retry or escalate
7. minority clusters logged with provenance for post-hoc audit

مرحله‌ی خوشه‌بندی معنایی تفاوت اصلی کار با مدل‌های زبانی است. برای مثال، دو پاسخ «این مطالعه گزارش می‌دهد 4.2%» و «بهبود 4.2%» به یک خوشه تعلق دارند. یک بررسی ساده‌ی برابری رشته‌ها این شباهت را از دست می‌دهد. در محیط عملیاتی (پروداکشن)، از یک مدل ارزان‌قیمت امبدینگ یا استانداردسازی (Canonicalization) صریح استفاده کنید.

تنظیم آستانه

پارامتر threshold تعیین می‌کند چه زمانی پاسخ را بپذیرید و چه زمانی چرخه را تکرار کنید. اگر خیلی پایین باشد، اکثریت‌های ضعیف را قبول می‌کنید. اگر خیلی بالا باشد، هیچ‌چیز را نمی‌پذیرید. بازه‌ی تجربی: 0.5 تا 0.67 برای تعداد n=5-7 ایجنت، و برای مقادیر کمتر n بالاتر می‌رود. اگر از آستانه پایین‌تر آمد، موضوع را به نیروی انسانی یا مجموعه‌ای دیگر از ایجنت‌ها ارجاع دهید.

موقعیت‌هایی که اجماع کمکی نمی‌کند

• پرسش‌های مبهم: اگر پرسش داده‌ی واقعی نداشته باشد، اجماع صرفاً یک نظر دسته‌جمعی است. نامش را هم نظر بگذارید.
• پرسش‌های مرکب: «کد را بنویس و آن را توضیح بده» — در عمل دو پاسخ است. برای هرکدام جداگانه رأی‌گیری کنید.
• چند دور رقابتی و متخاصم: اگر ایجنت‌ها بتوانند دورهای پیشین را ببینند و تقلید کنند (مناظره‌ی Du 2023)، فارغ از درست یا غلط بودن موضوع، شروع به هم‌رأی شدن می‌کنند. تعداد دورها را محدود نگه دارید (معمولاً بین 2 تا 3 دور).

ساخت آن

فایل code/main.py شامل پیاده‌سازی‌های زیر است:

• AgentVoter — یک خط‌مشی اسکریپت‌شده با (answer, confidence).
• MajorityVote — اکثریت نسبی کلاسیک.
• CPWBFT — رأی‌گیری وزن‌دار بر پایه‌ی ضریب اطمینان همراه با خوشه‌بندی معنایی.
• DecentLLMs — تجمیع پیشنهادهای امتیازدهی‌شده با میانه‌ی هندسی.
• Scenario — ارزیابی هر مدل تجمیع‌کننده در سه سناریوی حمله.

الگوهای حمله‌ی پیاده‌شده:

1. byzantine: یک ایجنت با اطمینان بالا دروغ می‌گوید.
2. sycophancy: یک ایجنت اولین پاسخی را که می‌بیند، با همان سطح اطمینان کپی می‌کند.
3. monoculture: سه ایجنت پاسخی غلط را به خاطر خطای همبسته و با ضریب اطمینان متوسط تکرار می‌کنند.

اجرا:

python3 code/main.py

خروجی مورد انتظار: جدولی از (حمله، تجمیع‌کننده) -> پاسخ نهایی، که پاسخ درست در آن متمایز شده است. روش اکثریت نسبی در برابر حمله‌ی تک‌کشت شکست می‌خورد. وزن‌دهی مبتنی بر اطمینان در CPWBFT اثر چاپلوسی را تعدیل می‌کند. میانه‌ی هندسی در DecentLLMs هم وقتی گره‌های تک‌کشت کمتر از نیمی از کل اعضا باشند، خروجی را به سمت خوشه‌ی صادق می‌کشد.

استفاده از آن

در فایل outputs/skill-consensus-designer.md، یک پروتکل اجماع برای مجموعه‌ای چندایجنت طراحی شده است: شامل روش خوشه‌بندی، شیوه‌ی وزن‌دهی، تعیین آستانه و سیاست ارجاع برای دورهایی که به حد نصاب آستانه نمی‌رسند.

ارسال به پروداکشن

پیش از استقرار هر سازوکار اجماع:

• پروتکل را دست‌کم با سه سناریوی حمله‌ی بالا بیازمایید. سیستم شما باید هنگام شکست رفتاری قابل پیش‌بینی داشته باشد، نه اینکه بی‌صدا خراب شود.
• تمام خوشه‌های اقلیت را با منشأ و سندیت (Provenance) لاگ بگیرید. خوشه‌های اقلیت، سیستم هشدار زودهنگام شما برای خطاهای همبسته‌اند.
• تعداد دورها را صریحاً محدود کنید. رویکرد «ادامه‌ی مناظره تا زمان رسیدن به توافق» ممنوع؛ این کار به همرنگی چاپلوسانه پاداش می‌دهد.
• مسئله‌ی توافق را از درستی تفکیک کنید. خروجی حاصل از اجماع به یک مدل اعتبارسنج (Verifier) داده می‌شود؛ مدل اعتبارسنج باید ساختاری مستقل از این مجموعه داشته باشد.
• نرخ توافق را مانیتور کنید. جهش ناگهانی نشانه‌ی سوگیری همرنگی است؛ افت شدید هم از انحراف مدل خبر می‌دهد.

تمرین‌ها

1. اسکریپت code/main.py را اجرا کنید. مطمئن شوید روش اکثریت در برابر حمله‌ی تک‌کشت شکست می‌خورد، اما CPWBFT وقتی اطمینان گره‌های تک‌کشت کمتر از 0.7 باشد، تا حدی اثر آن را کاهش می‌دهد.
2. الگوی چهارمی از حمله را اضافه کنید: امتناع (Abstention) خاموش — ایجنتی از پاسخ دادن سر باز می‌زند («نمی‌دانم»). هر روش تجمیع چگونه باید با این امتناع برخورد کند؟ منطق انتخابی خود را پیاده‌سازی کنید.
3. خوشه‌بندی معنایی را از استانداردسازی رشته‌ها به شباهت امبدینگ تغییر دهید (از هر مدل متن‌باز دلخواهی برای امبدینگ استفاده کنید). این کار چه تأثیری روی حمله‌ی چاپلوسی دارد؟
4. مقاله‌ی CP-WBFT (arXiv:2511.10400) را بخوانید. مرحله‌ی کالیبراسیون آزمون اطمینان را پیاده‌سازی کنید (یک مدل کالیبراسیون مستقل، اطمینان خوداظهاری‌شده‌ی هر ایجنت را ارزیابی کند). بهبود دقت را روی سناریوی تک‌کشت اندازه بگیرید.
5. مقاله‌ی «آیا ایجنت‌های هوش مصنوعی می‌توانند به توافق برسند؟» (arXiv:2603.01213) را مطالعه کنید. یک آزمایش ساده‌ی توافق روی مقادیر اسکالر را بازتولید کنید: سه ایجنت، یک پرسش اسکالر و پرامپت با پرسونای فریبکار. آیا CPWBFT یا DecentLLMs می‌توانند آن را تشخیص دهند؟

اصطلاحات کلیدی

برای مطالعه‌ی بیشتر

• Castro & Liskov — Practical Byzantine Fault Tolerance (OSDI 1999) — مقاله‌ی بنیادین
• CP-WBFT — Confidence-Probe Weighted BFT — وزن‌دهی به آرا بر اساس آزمون‌های اطمینان
• DecentLLMs — leaderless multi-agent consensus — اجماع چندایجنت بدون لیدر با میانه‌ی هندسی
• WBFT — Weighted BFT with Hierarchical Structure Clustering — تفکیک هسته/لبه برای کنترل تاخیر
• Can AI Agents Agree? — شکنندگی توافق روی مقادیر اسکالر و حمله‌ی مبتنی بر پرسونای فریبکار