بخش 3.5 · مدل‌ها، پیام‌ها و ابزارها

پرامپت سیستمی

The system prompt

فهرست مطالب
  1. رشته‌ی متنی یا پیام سیستمی
  2. غایب در وضعیت برنامه
  3. دریافت پرامپت از بستر اجرا
  4. هاب پرامپت

تابع create_agent پرامپت سیستمی (system prompt) را در ابتدای هر درخواست به مدل قرار می‌دهد و هرگز آن را در وضعیت (state) ذخیره نمی‌کند؛ بنابراین پرامپت جدید روی فراخوانی بعدی تمام رشته‌های گفت‌وگو اعمال می‌شود.

مکالمه‌ای را با یک چک‌پوینتر (checkpointer) ذخیره می‌کنید، پرامپت سیستمی را در کدتان تغییر می‌دهید و همان رشته‌ی گفت‌وگو را ادامه می‌دهید. مدل از پرامپت جدید پیروی می‌کند. وضعیت ذخیره‌شده را به دنبال پرامپت قبلی می‌گردید، اما اثری از آن نیست.

پس از پایان این بخش، می‌توانید بگویید پرامپت سیستمی در طول اجرا کجا قرار دارد و چگونه آن را از بستر اجرا (runtime context) مقداردهی کنید. همچنین محل دسترسی به هاب پرامپت (prompt hub) را پیدا خواهید کرد.

رشته‌ی متنی یا پیام سیستمی

پرامپت سیستمی: دستورالعمل‌هایی که در ابتدای هر درخواستِ ایجنت به مدل فرستاده می‌شوند.

صفحه‌ی مستندات ایجنت‌ها می‌گوید که این پارامتر یک رشته یا شیء SystemMessage می‌گیرد، و پرامپتی که در زمان اجرا ساخته شود به میان‌افزار (middleware) نیاز دارد {{docs oss/python/langchain/agents}}. تابع create_agent فقط یک بار، هنگام ساخت گراف، رشته‌ی متنی را به SystemMessage تبدیل می‌کند {{code libs/langchain_v1/langchain/agents/factory.py}}.

غایب در وضعیت برنامه

گره‌ی مدل در هر فراخوانی، پیام سیستمی را به درخواست اضافه می‌کند، اما آن را در messages نمی‌نویسد. بخش 1.3 هر دو روی این سازوکار را نشان داد. مدل در هر دو فراخوانی ابتدا system: You add numbers. را دریافت کرد، و وضعیت نهایی شامل چهار پیام بود؛ بدون هیچ SystemMessage:

آنچه مدل در فراخوانی دوم دریافت کرد capture/out/06-agent-run.txt
    "call": 2,
    "messages": [
      "system: You add numbers.",
      "human: What is 2 + 3?",
      "ai: calls add",
      "tool: 5"
    ],

بریده‌شده از فهرست پیام‌های فراخوانی 2.

تصویر درخواستی را رسم می‌کند که گره‌ی مدل می‌سازد. از این موضوع سه نتیجه به دست می‌آید:

نحوه ساخت هر درخواست توسط گره مدلهر درخواست مدل شامل پرامپت سیستمی ایجنت به همراه پیام‌های درون state است، و فقط پاسخ مدل به state بازگردانده می‌شود.
نحوه ساخت هر درخواست توسط گره مدل دو ردیف، به ازای هر فراخوانی مدل از اجرای موجود در 06-agent-run.txt. در سمت چپ هر ردیف، state.messages قبل از فراخوانی به رنگ فیروزه‌ای قرار دارد: 1 پیام قبل از فراخوانی 1 و 3 پیام قبل از فراخوانی 2. در وسط، درخواستی است که مدل چت دریافت کرده: ابتدا پرامپت سیستمی بنفش با متن «You add numbers.» که خط‌چین است چون در state وجود ندارد، سپس همان پیام‌های state. یک فلش آلبالویی درخواست را به مدل چت می‌برد. یک فلش فیروزه‌ای پاسخ را برمی‌گرداند و گره مدل آن را به state.messages اضافه می‌کند: یک فراخوانی ابزار به add پس از فراخوانی 1، و «2 + 3 = 5.» پس از فراخوانی 2. میان دو ردیف، گره ابزارها ToolMessage را پیوست می‌کند. حالت نهایی با 4 پیام و بدون پیام سیستمی خاتمه می‌یابد. STATE.MESSAGES درخواست (REQUEST) مدل چت 1 human: What is 2 + 3? system: You add numbers. human: What is 2 + 3? فراخوانی 1 tools: add 2 پیام appended: ai: tool_calls add ai: tool_calls add 2 human: What is 2 + 3? ai: tool_calls add tool: 5 system: You add numbers. human: What is 2 + 3? ai: tool_calls add tool: 5 فراخوانی 2 tools: add 4 پیام appended: ai: 2 + 3 = 5. ai: 2 + 3 = 5. سپس گره ابزارها «tool: 5» را اضافه می‌کند و فراخوانی 2 آن را می‌بیند. پس از اجرا، state.messages شامل 4 پیام است. پرامپت سیستمی جزء آن‌ها نیست. the system_prompt of create_agent: sent first on every call, never saved
هر ردیف را از چپ به راست بخوانید؛ یک ردیف به ازای هر فراخوانی مدل. خط‌چین بنفش پرامپت سیستمی است که ابتدا ارسال می‌شود و هرگز ذخیره نمی‌گردد. خطوط فیروزه‌ای حالت (state) ذخیره‌شده هستند. فلش آلبالویی فراخوانی مدل است و فلش فیروزه‌ای فقط پاسخ آن را اضافه می‌کند. برگرفته از capture/out/06-agent-run.txt و capture/out/18-mw-selection-emulation.txt.
  • چک‌پوینت هیچ پرامپتی در خود نگه نمی‌دارد. رشته‌ی گفت‌وگویی که با کد جدید از سر گرفته شود، از فراخوانی بعدی مدل پرامپت جدید را به کار می‌برد.
  • دو ایجنت می‌توانند یک رشته‌ی گفت‌وگو را با دو پرامپت به اشتراک بگذارند؛ هر کدام پرامپت مخصوص به خود را همراه پیام‌های مشترک می‌فرستد.
  • پرامپت در هر فراخوانی توکن ورودی مصرف می‌کند، چون هر بار ارسال می‌شود. پرامپت‌های طولانی در تعداد گام‌ها ضرب می‌شوند.

اما اگر خودتان SystemMessage را در پیام‌های ورودی بگذارید، ماجرا فرق می‌کند. چون یک پیام است، add_messages آن را در وضعیت ذخیره می‌کند و در تمام فراخوانی‌های بعدی دوباره فرستاده می‌شود.

دریافت پرامپت از بستر اجرا

دکوراتور dynamic_prompt تابعی بر پایه‌ی درخواست مدل را به میان‌افزاری تبدیل می‌کند که پرامپت سیستمی را پیش از هر فراخوانی تنظیم می‌کند. جعبه‌ابزار، نام کاربر را از بستر اجرا می‌خواند:

یک پرامپت پویا capture/s_middleware.py
    @dynamic_prompt
    def by_user(request):
        return f"You are helping {request.runtime.context['user']}."
…
    out = create_agent(m, middleware=[by_user]).invoke(ask("hi, who are you helping?"), context={"user": "Ada"})

بریده‌شده از سناریو. مدل Qwen3 4B روی Ollama است.

مدل پرامپت را در حالی دریافت کرد که نام کاربر درون آن پر شده بود:

درخواست با پرامپت پویا capture/out/18-mw-selection-emulation.txt
    "messages": [
      "system: You are helping Ada.",
      "human: hi, who are you helping?"
    ]

بخش آخر فایل، بریده‌شده برای نمایش پیام‌ها.

مدل از این نام استفاده نکرد. در پاسخ نوشت: Hi! I'm here to help you with any questions or tasks you might have. و ادامه‌ی ماجرا. پرامپت تعیین می‌کند مدل چه چیزی را بخواند، نه این‌که لزوماً چه جوابی بدهد.

برای کنترل بیشتر، میان‌افزار wrap_model_call می‌تواند پرامپت هر درخواست را بخواند و جایگزین کند. صفحه‌ی میان‌افزارهای سفارشی می‌گوید که خواندن و تغییر پرامپت از طریق فیلد system_message در ModelRequest انجام می‌شود {{docs oss/python/langchain/middleware/custom}}. بخش 4 قلاب‌های (hooks) میان‌افزار و ترتیب اجرای آن‌ها را توضیح می‌دهد.

هاب پرامپت

مستندات LangChain در commit با شناسه‌ی 04d4d4a هیچ صفحه‌ای درباره‌ی قالب‌های پرامپت (prompt templates) برای ایجنت‌های پایتون ندارد. هاب پرامپت به LangSmith منتقل شده است. صفحه‌ی آن می‌گوید این هاب پیش‌تر بسته‌ی langchainhub بوده که حالا منسوخ شده است {{docs langsmith/manage-prompts-programmatically}}. همان صفحه هنوز from langchain_classic import hub را نشان می‌دهد که همان مسیر قدیمی فهرست‌شده در بخش 3.1 است. برای push و pull کردن پرامپت‌ها از کلاینت langsmith استفاده کنید و متن را به صورت رشته به create_agent بفرستید.

منابع: capture/out/06-agent-run.txt، capture/out/18-mw-selection-emulation.txt، capture/s_middleware.py؛ docs.langchain.com در commit مستندات 04d4d4a (بخش‌های oss/python/langchain/agents، oss/python/langchain/middleware/custom، langsmith/manage-prompts-programmatically)؛ libs/langchain_v1/langchain/agents/factory.py در langchain==1.5.0.

ترجمه‌ی فارسی The system prompt از راهنمای LangChain 101 دوره‌ی AI Engineering from Scratch، نوشته‌ی Rohit Ghumare، تحت مجوز MIT. دستورها، لاگ‌ها و اعداد عیناً از اجراهای ثبت‌شده‌ی متن اصلی‌اند. فهرست راهنما