سؤال مصاحبه

سه بخش فراخوانی چت و ترفند پیش‌پرکنی

The three parts of a chat call and the prefill trick

  • سطح ۱: غربالگری
  • مفهومی
  • ۶ دقیقه

سه بخش یک فراخوانی API چت و کاربرد هر کدام را گام‌به‌گام توضیح دهید. سپس بگویید چطور بدون استفاده از API خروجی ساختاریافته (Structured Output)، مدل را وادار می‌کنید یک شیء JSON را بدون هیچ مقدمه‌چینی برگرداند.

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

پیام سیستمی (System Message) هویت، قواعد رفتاری و محدودیت‌های خروجی را تعیین می‌کند و در تمام نوبت‌های گفت‌وگو (Turns) باقی می‌ماند. پیام کاربر، وظیفه (Task) را منتقل می‌کند و در هر نوبت تغییر می‌کند. پیش‌پاسخ دستیار (Assistant Prefill) ابتدای پاسخ مدل را از طرف شما شروع می‌کند؛ بنابراین در ارائه‌دهندگانی که نوبت ناقص دستیار را می‌پذیرند، پیش‌پرکنی با یک آکولاد باز باعث می‌شود مدل پاسخ را بدون هیچ مقدمه‌چینی، در قالب JSON ادامه دهد.

پاسخ کامل

سه بخش اصلی

بخش نقش چرخه‌ی حیات
پیام سیستمی هویت، قواعد رفتاری، قواعد خروجی؛ مدل با آن مثل زمینه‌ای با بالاترین اولویت رفتار می‌کند در تمام نوبت‌های گفت‌وگو باقی می‌ماند
پیام کاربر وظیفه یا سؤال در هر نوبت تغییر می‌کند
پیش‌پاسخ دستیار اولین کاراکترهای پاسخ که خودتان می‌نویسید یک نوبت

بدون پیام سیستمی، محدودیت‌های پیام کاربر ناکافی خواهد بود و مدل جاهای خالی را با حدس‌وگمان پر می‌کند.

پیش‌پرکنی

پیام پایانی را با نقش دستیار و محتوای { ارسال کنید. مدل پاسخ را از همان‌جا ادامه می‌دهد؛ در نتیجه، ادامه‌ی متن همان باقی‌مانده‌ی شیء خواهد بود و کد شما فقط کافی است آکولاد باز را به ابتدای آن اضافه کند. نه خبری از مقدمه‌چینی است و نه بلوک کد (```). اگر ارائه‌دهنده‌ای نوبت ناقص دستیار را نمی‌پذیرد، به‌جای این روش از حالت خروجی ساختاریافته‌ی آن استفاده کنید.

دستور صریح بنویسید، نه صرفاً آرزو

قواعد درس برای نوشتن یک دستورالعمل شفاف: فرمت، طول پاسخ، مخاطب، مواردی که باید گنجانده شوند و مواردی که باید کنار گذاشته شوند را دقیقاً مشخص کنید و یک نمونه از خروجی ارائه دهید. سه نوع محدودیت کارساز هستند: محدودیت‌های منفی (که بخش‌هایی از فضای پاسخ احتمالی را حذف می‌کنند)، محدودیت‌های مثبت (که وجود ساختاری معین را در هر پاسخ تضمین می‌کنند) و محدودیت‌های شرطی (که موارد خاص و حالت‌های مرزی را مدیریت می‌کنند).

مدل را بیش‌ازحد محدود نکنید

پرامپت سیستمی حاوی 2000 کلمه قانون، فضای کمتری را برای انجام وظیفه‌ی اصلی در اختیار مدل می‌گذارد. این درس توصیه می‌کند بیشتر پرامپت‌های سیستمی زیر 500 توکن نگه داشته شوند و از نظر وجود تناقض بازبینی شوند؛ چراکه وقتی دو قانون با هم در تضاد باشند، مدل یکی را به‌صورت تصادفی انتخاب می‌کند.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 1: چرا پیام سیستمی در ابتدا می‌آید؟ پاسخ مورد انتظار: مدل بالاترین اولویت را برای آن قائل می‌شود و با تغییر نوبت‌های کاربر، این پیام ثابت می‌ماند.
  • سطح 2: مزیت پیش‌پرکنی در مقایسه با دستور ساده‌ی «در قالب JSON پاسخ بده» چیست؟ پاسخ مورد انتظار: حذف مقدمه‌چینی و بلوک‌های کد؛ پاسخ درست از داخل شیء شروع می‌شود و پارسر از اولین کاراکتر با JSON مواجه می‌شود.
  • سطح 2: پرامپت سیستمی شما به 2000 کلمه قانون رسیده است. درس در این باره چه می‌گوید؟ پاسخ مورد انتظار: محدودسازی بیش‌ازحد؛ مدل ظرفیت خود را به‌جای وظیفه صرف قوانین می‌کند، در حالی که بیشتر وظایف به پرامپت سیستمی زیر 500 توکن نیاز دارند.
  • سطح 3: چطور پرامپتی بنویسیم که در چند ارائه‌دهنده‌ی مختلف رفتار یکسانی داشته باشد؟ پاسخ مورد انتظار: زبان انگلیسی ساده، فرمت صریح، جداکننده‌هایی به سبک XML، قرار دادن دستورالعمل‌ها در ابتدا و انتها، تنظیم دما روی صفر هنگام آزمودن، و دو یا سه مثال.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «پیام سیستمی فقط همان اولین پیام کاربر است.» این پیام با اولویت بالاتری پردازش می‌شود و در طول تغییر نوبت‌های کاربر ثابت می‌ماند.
  • «پیش‌پرکنی در همه‌ی ارائه‌دهنده‌ها جواب می‌دهد.» فقط برخی از آن‌ها نوبت ناقص دستیار را می‌پذیرند؛ در بقیه‌ی موارد باید از حالت خروجی ساختاریافته استفاده کنید.
  • «قوانین بیشتر در پرامپت سیستمی به‌معنای کنترل بیشتر است.» از یک نقطه به بعد، مدل ظرفیت خود را صرف خود قوانین می‌کند؛ این درس پیشنهاد می‌کند بیشتر پرامپت‌های سیستمی زیر 500 توکن بمانند.

کجای دوره آموزش داده می‌شود

درس مهندسی پرامپت ساختار یک فراخوانی، تکنیک پیش‌پرکنی و قواعد نوشتن دستورالعمل‌های شفاف را آموزش می‌دهد.