سؤال مصاحبه

داده‌ی تایپ‌شده یا اقدام، و چرا تفاوت آن‌ها اهمیت دارد؟

Typed data or an action, and why the difference matters

  • سطح ۲: میانی
  • بده‌بستان
  • ۷ دقیقه

از یک مدل دو چیز می‌خواهید: خلاصه‌ای تایپ‌شده از یک تیکت پشتیبانی، و امکان جست‌وجوی حساب کاربری مشتری در طول مکالمه. یکی از هم‌تیمی‌هایتان می‌خواهد هر دو را در قالب ابزار پیاده‌سازی کند. کدام سازوکار مناسب هر یک از این دو است و چرا تفکیک آن‌ها اهمیت دارد؟

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

خلاصه‌ی تیکت، خروجی ساختاریافته (Structured Output) است: داده‌ی تایپ‌شده محصول نهایی است، بنابراین باید از حالت اسکیما استفاده کنید و آن را بسنجید. جست‌وجوی حساب کاربری، فراخوانی تابع (Function Calling) است: مدل نیت (Intent) خود را برای انجام یک اقدام اعلام می‌کند، کد شما آن را اجرا کرده و نتیجه را به مدل بازمی‌گرداند؛ در نتیجه این خروجی یک گام میانی است. هر دو از سازوکار اسکیمای JSON (JSON Schema) بهره می‌برند، اما ادامه‌ی مسیر آن‌ها متفاوت است. ترکیب‌کردن این دو باعث می‌شود مرز میان داده‌ها و اقداماتی که کدتان اجرا می‌کند مبهم شود.

پاسخ کامل

دو کاربرد برای یک سازوکار

خروجی ساختاریافته فراخوانی تابع
آنچه مدل تولید می‌کند رکوردی منطبق با یک اسکیما نام تابع و آرگومان‌های تایپ‌شده
آنچه در ادامه رخ می‌دهد کد شما آن را اعتبارسنجی و ذخیره می‌کند کد شما آن را اجرا کرده و نتیجه را به مدل بازمی‌گرداند
ماهیت خروجی محصول نهایی یک گام میانی
مناسب برای استخراج داده، دسته‌بندی، خلاصه‌های تایپ‌شده جست‌وجو، نوشتن، هر نوع تعاملی با سیستم‌های دیگر

درس فراخوانی تابع قاعده‌ی اصلی را مشخص می‌کند: وقتی داده می‌خواهید از خروجی‌های ساختاریافته استفاده کنید؛ وقتی می‌خواهید مدل با سامانه‌ای خارجی تعامل داشته باشد از فراخوانی تابع کمک بگیرید. مدل هرگز چیزی را اجرا نمی‌کند؛ فقط تصمیم می‌گیرد چه تابعی با چه آرگومان‌هایی فراخوانی شود.

چه زمانی استفاده از ابزار روش مناسبی برای دریافت داده است؟

درس خروجی‌های ساختاریافته استثنای این قاعده را شرح می‌دهد. زمانی که مدل باید بر اساس ورودی از میان چند اسکیما یکی را انتخاب کند (مثلاً 10 اسکیمای استخراج)، استفاده از ابزار (Tool Use) انتخاب اسکیما و ساختار داده را هم‌زمان در یک مرحله در اختیارتان می‌گذارد. همچنین یکی از ارائه‌دهندگان، حالت اسکیمای خود را از طریق استفاده از ابزار ارائه می‌دهد، به این صورت که اسکیما روی ورودی ابزار تعریف می‌شود. در این حالت، نام ابزار را متناسب با داده‌ای که برمی‌گرداند بگذارید، هرگز آن را اجرا نکنید و آرگومان‌هایش را مستقیم به بخش اعتبارسنجی بفرستید.

چرا این تفکیک در کدنویسی اهمیت دارد؟

یک رکورد داده فقط به اعتبارسنجی اسکیما (Schema Validation) و بررسی معنایی نیاز دارد. اما در یک اقدام، از آنجا که مدل تصمیم به اجرای آن گرفته است، پیش از اجرای هر کدی به اعتبارسنجی آرگومان‌ها، فهرست مجاز (Allowlist)، پاک‌سازی نتایج و بودجه‌ی تعداد فراخوانی نیاز خواهید داشت. اگر خلاصه و جست‌وجو در یک رجیستری مشترک قرار بگیرند، قوانین امنیتیِ مربوط به اقدامات، یا بی‌دلیل داده‌ها را درگیر می‌کنند، یا اقدامی را که واقعاً نیاز به نظارت دارد از قلم می‌اندازند.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 2: چه زمانی استفاده از ابزار روش درستی برای گرفتن داده‌ی ساختاریافته است؟ پاسخ مورد انتظار: وقتی مدل باید با توجه به ورودی، از میان چند اسکیما یکی را انتخاب کند؛ مثال درس، 10 اسکیمای استخراج مختلف بود که در آن، استفاده از ابزار امکان انتخاب و تعیین ساختار را یک‌جا فراهم می‌کند.
  • سطح 2: در سناریوی جست‌وجو، چه کسی تابع را اجرا می‌کند؟ پاسخ مورد انتظار: کد شما؛ مدل نام تابع و آرگومان‌ها را اعلام می‌کند و نتیجه در قالب یک پیام به مدل بازگردانده می‌شود.
  • سطح 3: اعتبارسنجی این دو چه تفاوتی با هم دارد؟ پاسخ مورد انتظار: داده اعتبارسنجی اسکیما و بررسی معنایی می‌شود؛ یک اقدام پیش از اجرا نیاز به اعتبارسنجی آرگومان، فهرست مجاز و بودجه‌ی تعداد فراخوانی دارد.
  • سطح 3: یک ارائه‌دهنده خروجی اسکیما را فقط از طریق استفاده از ابزار ارائه می‌دهد. چطور این تفکیک را حفظ می‌کنید؟ پاسخ مورد انتظار: نام ابزار را متناسب با داده‌ای که برمی‌گرداند بگذارید، هرگز آن را اجرا نکنید، آرگومان‌هایش را به عنوان رکورد نهایی به اعتبارسنج بفرستید و اقدامات واقعی را در رجیستری کاملاً جداگانه‌ای نگه دارید.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «این دو یک چیزند و فقط نام متفاوتی دارند.» هر دو از سازوکار اسکیما استفاده می‌کنند؛ اما اولی داده‌ی نهایی تولید می‌کند و دیگری درخواستی برای انجام یک اقدام توسط کد شماست.
  • «برای همه‌چیز از فراخوانی تابع استفاده کنید چون انعطاف‌پذیرتر است.» هر ابزار یک سطح قابل‌اجرا با ملاحظات امنیتی است؛ استخراج داده نیازی به این سازوکار ندارد.
  • «خود مدل جست‌وجو را اجرا می‌کند.» مدل هرگز چیزی را اجرا نمی‌کند؛ مدل فقط فراخوانی را صادر می‌کند و مجری آن کد شماست.

کجای دوره آموزش داده می‌شود

درس فراخوانی تابع مرز داده و اقدام را تفکیک کرده و چرخه‌ی پنج‌مرحله‌ای را آموزش می‌دهد؛ و درس خروجی‌های ساختاریافته به استفاده از ابزار به عنوان روشی برای انتخاب از میان چند اسکیما می‌پردازد.