متد run زیر را از یک حلقهی ایجنت ساده (toy agent loop) بررسی کنید. فراخواننده رشتهی بازگشتی را بهعنوان پاسخ نهایی به کاربر نشان میدهد. قرارداد این متد چه ایرادی دارد و چگونه آن را اصلاح میکنید؟
def run(self, user_message: str) -> str:
self.history.append(Turn(kind="user", content=user_message))
for step in range(self.max_turns):
reply = self.llm.respond(self.history)
if reply["kind"] == "finish":
self.history.append(Turn(kind="final", content=reply["content"]))
return reply["content"]
thought = reply.get("thought", "")
self.history.append(Turn(kind="thought", content=thought))
call = ToolCall(name=reply["action"], args=reply.get("args", {}))
observation = self.tools.dispatch(call)
self.history.append(Turn(kind="action", content=call.name, tool_call=call, observation=observation))
self.history.append(Turn(kind="final", content="budget exhausted"))
return "budget exhausted"اول خودتان جواب بدهید، بعد پاسخ را باز کنید.
پاسخ کوتاه
این متد در هر دو حالت یک رشتهی ساده برمیگرداند؛ بنابراین فراخواننده نمیتواند پاسخ واقعی را از وضعیتی که به سقف نوبتها رسیده تشخیص دهد. در نتیجه، متن budget exhausted طوری به کاربر نشان داده میشود که انگار مدل آن را گفته است. راهحل این است که یک خروجی نوعدار (typed result) همراه با دلیل برگردانید، یا مثل قرارداد بستر آزمایشی (harness) کنترل را واگذار کنید تا فراخواننده تصمیم بگیرد بودجه را تمدید کند یا اجرا متوقف شود.
پاسخ کامل
عملکرد کد
این حلقه حداکثر max_turns بار تکرار میشود. در هر تکرار، یک پاسخ از مدل خواسته میشود. پاسخ finish اجرا را تمام میکند و محتوایش را برمیگرداند. هر پاسخ دیگری یک اقدام است: حلقه تفکر را ثبت میکند، ابزار را اجرا مینماید و مشاهده (observation) را به تاریخچه اضافه میکند. وقتی تکرارهای حلقه تمام میشود، یک نوبت نهایی با متن budget exhausted اضافه میکند و همان متن را برمیگرداند.
سه مشکل اساسی
- یک نوع بازگشتی یکسان برای دو نتیجهی متفاوت: اجرای پایانیافته و اجرای متوقفشده بهخاطر سقف نوبتها، هر دو
strبرمیگردانند. فراخواننده هیچ فیلدی برای بررسی وضعیت در دست ندارد. هر کدی که نتیجه را به کاربر نشان دهد، پیام سقف بودجه را بهعنوان پاسخ نمایش خواهد داد. - سقف بودجه یک بنبست است: وضعیت ناقص در
self.historyباقی میماند، اما هیچ چیزی به فراخواننده نمیگوید که امکان ادامهی اجرا وجود دارد. قرارداد بستر آزمایشی با بودجه مثل یک نقطهی واگذاری برخورد میکند: رویدادbudget.warnرا ثبت میکند،on_budget_exceededرا فرا میخواند و یک درخواست بازگشت با ذکر دلیل برمیگرداند. سپس فراخواننده وضعیت را بررسی کرده وresumeرا صدا میزند. - پاسخ بدون اقدام و بدون اتمام باعث کرش برنامه میشود: کد برای هر پاسخی که از نوع
finishنباشد،reply["action"]را میخواند. اگر مدلی پاسخی متنی بدون فراخوانی ابزار (tool call) بدهد، خطایKeyErrorرخ میدهد. در درس اشاره شده که نوبت بدون فراخوانی ابزار، یک شرط توقف (stop condition) عادی است.
اصلاح ساختار
یک شیء نتیجهی کوچک شامل متن نهایی، دلیلی مانند finished، budget یا no_tool_call و تعداد نوبتها برگردانید. تاریخچه را روی همان شیء نگه دارید تا فراخواننده بتواند کار را ادامه دهد یا واگذار کند. با پاسخی که اقدام ندارد بهعنوان یک توقف برخورد کنید، نه خطا. بودجه را صرفاً سقف همین فراخوانی در نظر بگیرید و بگذارید فراخواننده دربارهی ادامهی کار بعد از آن تصمیم بگیرد.
سؤالهای تکمیلی مصاحبهگر
- سطح 2: فرمتکنندهی مشاهدات در این کد کجاست؟ پاسخ مورد انتظار: داخل
tools.dispatch؛ جایی که برای ابزار ناشناخته، آرگومانهای نامعتبر یا بروز استثنا، یک رشتهی خطا برمیگرداند تا مدل همیشه یک رشته تحویل بگیرد. - سطح 2: اگر یک ابزار دچار استثنا شود، مدل در نوبت بعدی چه میبیند؟ پاسخ مورد انتظار: مشاهدهای که با
error:شروع میشود و نوع استثنا و متن خطا را به همراه دارد تا مدل بتواند فراخوانی را اصلاح کند. - سطح 3: بستر آزمایشی چطور متوجه میشود که بعد از توقف موقت بودجه باید به کدام وضعیت بازگردد؟ پاسخ مورد انتظار: وضعیت قبلی را پیش از توقف ثبت میکند، شمارندهها را هنگام ازسرگیری بازنشانی مینماید و از روی همان رکورد دوباره وارد فاز اجرا یا بازتاب (reflecting) میشود.
- سطح 3: چه ویژگیای در بستر آزمایشی باعث میشود ردگیری محاسباتِ (trace) ذخیرهشده بدون نیاز به مدل بازپخشپذیر باشد؟ پاسخ مورد انتظار: ماشین وضعیت (state machine) قطعی (deterministic) است؛ بنابراین همان لاگ رویدادها (event log) دقیقاً وارد همان وضعیت میشود.
جوابهای اشتباهی که مصاحبهگرها زیاد میشنوند
- «در سقف نوبتها یک رشتهی خالی برگردانید تا فراخواننده خودش آن را مدیریت کند.» رشتهی خالی هم همچنان یک رشته است و فراخواننده کدی برای تشخیص دلیل توقف ندارد.
- «در سقف نوبتها یک استثنا پرتاب کنید.» تاریخچهی ناقص ارزشمند است و استثنا فراخواننده را مجبور میکند بهجای ادامهی مسیر، کار را از صفر شروع کند.
- «سقف نوبتها را آنقدر بالا ببرید که هرگز به آن نرسد.» سقف برای اجرایی است که همگرا نمیشود؛ بالا بردن سقف فقط زمان تلفشدهی آن اجرا را طولانیتر میکند.
کجای دوره آموزش داده میشود
در درس حلقهی ایجنت این حلقه پیادهسازی شده و در قرارداد حلقهی بستر آزمایشی رشتهی خروجی با یک نقطهی واگذاری (pull point) جایگزین شده است تا فراخواننده بتواند اجرا را از سر بگیرد.