سؤال مصاحبه

چه چیزی یک حلقه را به ایجنت تبدیل می‌کند و نه یک چت‌بات

What makes a loop an agent and not a chat bot

  • سطح ۱: غربالگری
  • مفهومی
  • ۵ دقیقه

هم‌تیمی شما می‌گوید برنامه‌ی چت آن‌ها یک ایجنت (Agent) است، چون یک مدل را داخل یک حلقه‌ی while صدا می‌زند. اجزای مورد نیاز برای یک حلقه‌ی ایجنت (Agent loop) واقعی را نام ببرید و بگویید در نبود هر کدام چه مشکلی پیش می‌آید.

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

یک حلقه‌ی ایجنت به پنج بخش نیاز دارد: یک بافر پیام که با هر نوبت گفت‌وگو (Turn) بزرگ‌تر می‌شود، یک رجیستری ابزار (Tool Registry) که مدل ابزارها را با نام از طریق آن فراخوانی می‌کند، یک شرط توقف (Stop Condition)، یک سهمیه‌ی نوبت‌ها (Turn Budget) و یک فرمت‌کننده‌ی مشاهده (Observation). مدل استفاده‌شده در چت‌بات و ایجنت یکسان است؛ تفاوت اینجاست که ایجنت می‌تواند متوقف شود، ابزاری را فراخوانی کند، نتیجه را بخواند و به کارش ادامه دهد. بدون این پنج بخش، این حلقه صرفاً یک چت‌بات با چند مرحله‌ی اضافه است.

پاسخ کامل

حلقه

این الگو همان الگوی مقاله‌ی ReAct است: مدل فکری را می‌نویسد، اقدامی را انتخاب می‌کند، یک مشاهده را می‌خواند و این روند را آن‌قدر تکرار می‌کند تا تصمیم بگیرد کار تمام است. مدل‌های امروزی بخش فکر را به یک کانال استدلال بومی (Native reasoning) جداگانه منتقل کرده‌اند، اما جریان کنترل تفاوتی نکرده است: مشاهده، فکر، عمل، مشاهده، فکر، عمل، توقف.

پنج بخش اصلی

بخش وظیفه پیامدِ نبود آن
بافر پیام نگهداری نوبت کاربر، نوبت‌های دستیار، نوبت‌های ابزار و نوبت نهایی به ترتیب مدل کارهایی را که قبلاً انجام داده فراموش می‌کند و کار تکراری انجام می‌دهد
رجیستری ابزار نگاشت نام ابزار به اسکیما و تابع قابل‌فراخوانی مدل ابزارهایی را صدا می‌زند که وجود ندارند و در نتیجه چیزی اجرا نمی‌شود
شرط توقف پایان دادن به اجرا با اعلام اتمام صریح، در نوبتی بدون فراخوانی ابزار، با اتمام سهمیه یا با رسیدن به یک گاردریل (Guardrail) اجرا هرگز پایان نمی‌یابد، یا فقط زمانی تمام می‌شود که کانتکست پر شود
سهمیه‌ی نوبت‌ها تعیین سقف تعداد تکرارها برای این دسته از وظایف (Task) یک تصمیم اشتباه در گام 38 به اجرایی بی‌پایان تبدیل می‌شود
فرمت‌کننده‌ی مشاهده تبدیل خروجی هر ابزار، از جمله تمام خطاها، به رشته‌ای متنی و قابل‌خواندن برای مدل فراخوانی ناموفق به‌جای اصلاح، باعث کرش برنامه می‌شود

فرمت‌کننده همان بخشی است که معمولاً فراموش می‌شود. در درس تأکید شده که هر خطای 400 در استک باید به یک رشته‌ی متنی مشاهده تبدیل شود، نه یک استثنا (Exception). مدلی که خطا را ببیند، می‌تواند فراخوانی بعدی خود را اصلاح کند؛ مدلی که هرگز آن را نبیند، نمی‌تواند.

چرا این اجزا در حال حاضر اهمیت دارند

ایجنت‌ها برای هر وظیفه بین 40 تا 400 گام اجرا می‌شوند. تمام فریم‌ورک‌های امروزی همین حلقه را با نام‌گذاری‌های خاص خودشان پیاده می‌کنند. تفاوت‌ها در سازوکارهای اطراف حلقه است: چک‌پوینت‌ها (Checkpoint)، پیام‌رسانی بین اکتورها، قالب‌های نقش و ردگیری محاسبات (Tracing). خودِ حلقه تغییری نمی‌کند.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 1: مشاهده چیست؟ پاسخ مورد انتظار: شکل متنی نتیجه‌ی یک ابزار که حلقه آن را برای فراخوانی بعدی مدل به بافر پیام اضافه می‌کند.
  • سطح 2: چرا سهمیه‌ی نوبت‌ها بخشی جدا از شرط توقف است؟ پاسخ مورد انتظار: شرط توقف به خروجی‌های خود مدل بستگی دارد، اما سهمیه‌ی نوبت‌ها زمانی از اجرا محافظت می‌کند که مدل هیچ‌وقت دستور توقف صادر نکند.
  • سطح 2: در مدلی با کانال استدلال بومی، فکر به کجا می‌رود؟ پاسخ مورد انتظار: درون فیلدی جداگانه که محیط اجرا (Runtime) بین نوبت‌ها منتقل می‌کند؛ بنابراین تاریخچه فقط فراخوانی ابزارها و نتایج را بدون متن استدلال درون‌خطی نشان می‌دهد.
  • سطح 3: اگر دو فراخوانی ابزار در یک نوبت بدون رعایت ترتیب بازگردند، چه تغییری لازم است؟ پاسخ مورد انتظار: هر نتیجه به یک شناسه‌ی تطبیق (Correlation ID) نیاز دارد تا به فراخوانی مربوط به خودش متصل شود، وگرنه مدل نتیجه‌ی اشتباهی را برای یک فراخوانی می‌خواند.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «ایجنت مدلی است که پرامپت (Prompt) سیستمی طولانی دارد.» پرامپت توانایی اجرای ابزار یا خواندن نتیجه‌ی آن را ندارد، بنابراین مدل در همان اولین حدس اشتباه خود متوقف می‌شود.
  • «حلقه زمانی تمام می‌شود که مدل بگوید کارش تمام شده است.» مدل ممکن است خیلی زود یا هیچ‌وقت نگوید کار تمام است؛ بنابراین حلقه به سهمیه‌ی نوبت‌ها و شرط توقف ناشی از نبود فراخوانی ابزار هم نیاز دارد.
  • «خطاهای ابزار باید raise شوند تا توسعه‌دهنده آن‌ها را ببیند.» خطایی که raise شود به اجرای برنامه پایان می‌دهد، در حالی که خطایی که به مشاهده تبدیل شود به مدل امکان می‌دهد فراخوانی را اصلاح کند.

کجای دوره آموزش داده می‌شود

در درس حلقه‌ی ایجنت این پنج بخش با یک مدل اسکریپت‌شده و سه ابزار ساخته می‌شوند.