سؤال مصاحبه

حالت JSON چه چیزهایی را تضمین می‌کند و چه چیزهایی را نه

What JSON mode guarantees and what it does not

  • سطح ۱: غربالگری
  • مفهومی
  • ۶ دقیقه

یکی از هم‌تیمی‌هایتان حالت JSON (یا JSON mode) ارائه‌دهنده را فعال کرده و می‌گوید خروجی استخراج داده حالا دیگر تضمین‌شده است. حالت JSON واقعاً چه چیزهایی را تضمین می‌کند، چه چیزهایی را تضمین نمی‌کند، و به‌جای آن باید چه قابلیتی را فعال کنید؟

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

حالت JSON فقط تضمین می‌کند خروجیِ کامل‌شده قابل تجزیه (parse) باشد، نه چیزی بیشتر؛ پاسخی که به سقف توکن‌ها خورده و قطع شده باشد همچنان ممکن است با خطا مواجه شود، بنابراین همیشه اول دلیل اتمام پاسخ (finish reason) را بررسی کنید. این حالت کلیدها، انواع داده، مقادیر enum یا نبود فیلدهای اضافه را تضمین نمی‌کند. به‌جای آن، حالت اسکیما (schema mode) را فعال کنید؛ حالتی که در آن ارائه‌دهنده یک اسکیمای JSON (یا JSON Schema) می‌گیرد و رمزگشایی را به همان اسکیما مقید می‌کند (Constrained Decoding). همچنین بررسی مقادیری را که اسکیما توان سنجش درستی‌شان را ندارد، در سمت کد خودتان نگه دارید.

پاسخ کامل

چهار سطح کنترل

سطح تضمین خطای رایج
پرامپتی که می‌گوید «در قالب JSON پاسخ بده» هیچ تضمینی ندارد؛ حدود 90 درصد معتبر است بلوک‌های کد (code fences)، متن‌های مقدماتی، کوتاه‌سازی (truncation)، ساختار اشتباه
حالت JSON نحو (syntax) معتبر کلیدهای اضافه، انواع داده‌ی اشتباه، فیلدهای جاافتاده
حالت اسکیما تطابق خروجی با اسکیمای شما مقدار اشتباه اما با نوع داده‌ی درست، یا امتناع مدل (refusal)
رمزگشایی مقید تک‌تک توکن‌ها برای اسکیما معتبر هستند مشابه حالت اسکیما؛ در واقع حالت اسکیما با همین سازوکار پیاده می‌شود

در درس رمزگشایی مقید این نکته خیلی صریح مطرح شده است: حالت JSON خالص فقط تولید JSON معتبر را تضمین می‌کند، نه JSON متناسب با کاربرد شما را؛ بنابراین همیشه یک اسکیمای کامل ارائه دهید.

حالت سخت‌گیرانه‌ی اسکیما چه الزاماتی دارد؟

درس خروجی‌های ساختاریافته (Structured Output) قواعد حالت سخت‌گیرانه (Strict Mode) را این‌طور فهرست می‌کند: همه‌ی ویژگی‌ها (properties) باید در required بیایند، مقدار additionalProperties در همه‌جا false باشد، و هیچ ارجاع حل‌نشده‌ای (unresolved reference) وجود نداشته باشد. هر اسکیما که این قوانین را نقض کند، همان لحظه‌ی ارسال درخواست با خطای 400 رد می‌شود.

چه وظایفی بر دوش شما باقی می‌ماند؟

با اعمال حالت سخت‌گیرانه، دو دسته خطا برای پاسخ‌هایی که کامل می‌شوند از بین می‌روند: خطای تجزیه (parse error) و نقض اسکیما (schema violation). اما پاسخی که در سقف توکن‌ها قطع شده باشد همچنان ممکن است در تجزیه شکست بخورد؛ پس قبل از خواندن خروجی، حتماً finish reason را بررسی کنید. دو چالش دیگر باقی می‌ماند: اول اینکه وقتی ورودی با اسکیما ناسازگار باشد، مدل می‌تواند امتناع کند (refusal)؛ کد شما باید با این مورد مثل یک نتیجه‌ی تایپ‌شده برخورد کند. دوم اینکه مدل می‌تواند فیلدی را با مقداری پر کند که نوع داده‌اش درست ولی محتوایش اشتباه است؛ هیچ لایه‌ی اعتبارسنجی قالبی متوجه چنین خطایی نمی‌شود.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 1: در حالت سخت‌گیرانه‌ی اسکیما، کدام نوع خطا همچنان باقی می‌ماند؟ انتظار می‌رود: امتناع مدل (refusal)، زمانی که مدل تشخیص می‌دهد ورودی با اسکیما همخوانی ندارد؛ با آن مثل یک خروجی تایپ‌شده رفتار کنید و پاسخی را که در سقف توکن‌ها قطع شده، به مسیر خطا هدایت کنید.
  • سطح 2: حالت سخت‌گیرانه چه الزاماتی را برای اسکیما تعیین می‌کند؟ انتظار می‌رود: اجباری بودن همه‌ی ویژگی‌ها، ممنوع بودن ویژگی‌های اضافه و نبود ارجاع‌های حل‌نشده؛ در غیر این صورت درخواست با خطای 400 رد می‌شود.
  • سطح 2: خروجی دقیقاً با اسکیما مطابقت دارد ولی قیمت اشتباه است. کدام لایه خطا داشته است؟ انتظار می‌رود: هیچ‌کدام از لایه‌های قالب؛ این مقدار از خودش ساخته شده (من‌درآوردی است) و فقط با اعتبارسنجی معنایی (semantic check) یا ارزیابی (eval) می‌توان آن را شناسایی کرد.
  • سطح 3: فیلدی در متن مبدأ گاهی نامشخص است. اسکیما را چطور می‌نویسید؟ انتظار می‌رود: مقدار null یا یک مقدار نشانگر (sentinel) را مجاز کنید؛ گرامری که مدل را مجبور به وارد کردن مقدار کند، باعث می‌شود مقداری ساختگی (مثل یک تاریخ جعلی) سرهم کند.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «حالت JSON یعنی کلیدها حتماً با مدل داده‌ی من همخوانی دارند.» این حالت فقط نحو را تضمین می‌کند؛ کلیدهای اضافه، انواع داده‌ی اشتباه و فیلدهای ازقلم‌افتاده همچنان اتفاق می‌افتند.
  • «اضافه کردن عبارت «در قالب JSON معتبر پاسخ بده» به پرامپت هم فرقی با این ندارد.» رویکردی که صرفاً متکی به پرامپت باشد حدود 90 درصد قابل اتکاست و با بلوک‌های کد، متن‌های مقدماتی و کوتاه‌سازی شکست می‌خورد.
  • «با وجود حالت اسکیما دیگر می‌توانم اعتبارسنجی را کنار بگذارم.» اسکیما نمی‌تواند مقدار اشتباهی را که صرفاً نوع داده‌اش درست است تشخیص دهد؛ بررسی‌های معنایی را حتماً حفظ کنید.

کجای دوره آموزش داده می‌شود

درس خروجی‌های ساختاریافته این چهار سطح را تفکیک می‌کند، درس رمزگشایی مقید درباره‌ی استفاده از حالت JSON بدون اسکیما هشدار می‌دهد، و درس خروجی ساختاریافته قواعد حالت سخت‌گیرانه را شرح می‌دهد.