سؤال مصاحبه

شناسایی نشت پرامپت ظرف 5 دقیقه

Catch a leaking prompt within five minutes

  • سطح ۳: ارشد
  • طراحی
  • ۱۵ دقیقه

یک رگرسیون (تغییر مخرب) وارد محیط عملیاتی (Production) می‌شود. یکی از پرامپت‌های شما در حدود 1 پاسخ از هر 100 پاسخ، شناسه‌های ساختگی مشتریان را لو می‌دهد. پایپ‌لاین مشاهده‌پذیری (Observability pipeline) را طوری طراحی کنید که ظرف 5 دقیقه پس از اولین پاسخ معیوب، هشدار به دست یک انسان برسد؛ و مشخص کنید هر مرحله چقدر به این زمان اضافه می‌کند.

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

روی تمام فراخوانی‌های مدل با اسپن‌های منطبق بر قراردادهای GenAI، ابزار دقیق (Instrumentation) پیاده کنید و آن‌ها را با OTLP به یک کالکتور بفرستید. در کالکتور، یک بررسی الگوی کم‌هزینه روی تک‌تک خروجی‌ها اجرا کنید، مدل ناقد (Judge) را روی ردگیری‌های محاسبات (Traces) نمونه‌برداری‌شده در بازه‌های زمانی کوتاه اجرا کنید، امتیازها را به‌شکل اسپن ارزیابی (Eval span) بنویسید، داده‌های تجمیعی را به‌صورت متریک بفرستید (Export) و با عبور امتیاز نشت از آستانه (Threshold)، هشدار صادر کنید. این 5 دقیقه حاصل‌جمع بازه‌ی پایش (Scrape interval)، پنجره‌ی دسته‌ای (Batch window) ناقد و زمان مسیریابی هشدار است؛ بنابراین هر مرحله باید بسیار کوتاه باشد و نمونه‌گیر (Sampler) هم ترافیک کافی را نگه دارد تا رخدادی با احتمال 1 در 100 را ببیند. هدف 5 دقیقه‌ای فقط نشت‌هایی را پوشش می‌دهد که الگو آن‌ها را علامت بزند یا نمونه‌گیر نگه‌شان دارد.

پاسخ کامل

مراحل پایپ‌لاین و سهم هرکدام از این زمان

مرحله آورده‌ی مرحله هزینه‌ی زمانی
ابزار دقیق و ارسال با OTLP اسپن حاوی خروجی چند ثانیه
کالکتور با نمونه‌گیری انتهایی (Tail sampling) تصمیم‌گیری برای نگه‌داشتن ردگیری محاسبات چند ثانیه، به‌علاوه‌ی زمان انتظار در بافر
بررسی الگو روی خروجی نشانه‌گذاری آنی الگو و ساختار شناسه‌ها آن‌قدر کم که به حساب نمی‌آید
اجرای ناقد روی ردگیری‌های نمونه‌برداری‌شده امتیازدهی به نشت‌هایی که از دست الگو دررفته‌اند پنجره‌ی دسته‌ای
اسپن‌های ارزیابی و خروجی‌گیر متریک‌ها داده‌های تجمیعی که هشدار آن را می‌خواند بازه‌ی پایش
قاعده‌ی هشدار و مسیریابی ارسال پیج به مسئول شیفت بازه‌ی ارزیابی قاعده‌ی هشدار به‌علاوه‌ی زمان مسیریابی

جاب ارزیابی پروژه‌ی نهایی، ردگیری‌های نمونه‌برداری‌شده‌ی 15 دقیقه‌ی گذشته را می‌خواند. برای رسیدن به هدف 5 دقیقه‌ای، ناقد باید هر 1 دقیقه یک‌بار روی تازه‌ترین ردگیری‌ها اجرا شود؛ وگرنه پنجره‌ی دسته‌ای به‌تنهایی کل بودجه‌ی زمانی را می‌بلعد.

نمایان کردن رویدادهای نادر

با نرخ نشت 1 در 100، نمونه‌گیری که یک‌دهم درخواست‌های موفق را نگه می‌دارد، در هر 1000 پاسخ فقط 1 نشت را می‌بیند. در ترافیک بالا مشکلی نیست، اما در ترافیک پایین سیستم کاملاً کور خواهد شد. در سطح کالکتور روی تمام خروجی‌ها بررسی الگوی ساختار شناسه‌ها را اجرا کنید؛ درست مثل گاردریل خروجی (Output guardrail) در پروژه‌ی نهایی اپلیکیشن محیط عملیاتی، و هر ردگیری‌ای را که الگو نشانه‌گذاری می‌کند نگه دارید. سپس ناقد، نشت‌های بازنویسی‌شده (Paraphrased) را صرفاً روی بخش نمونه‌برداری‌شده ارزیابی می‌کند. نشت بازنویسی‌شده در ردگیری‌ای که نمونه‌برداری نشده باشد، نه امتیازی می‌گیرد و نه هشداری ایجاد می‌کند.

زنجیره‌ی هشدار

امتیازهای ارزیابی در قالب اسپن‌های ارزیابی متصل به ردگیری محاسباتِ والد ثبت می‌شوند. یک خروجی‌گیر (Exporter) متریک این داده‌ها را تجمیع می‌کند، با عبور امتیاز نشت در یک پنجره‌ی زمانی از آستانه، قاعده‌ی هشدار فعال می‌شود، و سیستم مدیریت هشدار، اخطارها را به چت و موارد بحرانی را به پیجر می‌فرستد.

اثبات کارکرد

آزمون ارزیابی رگرسیون (Regression probe) در پروژه‌ی نهایی، باگی تزریق می‌کند که در 1 درصد پاسخ‌ها شناسه‌های ساختگی را لو می‌دهد و زمان سپری‌شده از لحظه‌ی دیپلوی تا دریافت هشدار را می‌سنجد. بخش تشخیص در روند بازیابی، در حوزه‌ی اختیارات داشبورد است. رفع مشکل با بازگشت به عقب (Rollback) انجام می‌شود که به مسیر انتشار نرم‌افزار (Release path) تعلق دارد.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 3: معمولاً کدام مرحله بیشترین بخش از این 5 دقیقه را پر می‌کند؟ پاسخ مورد انتظار: پنجره‌ی دسته‌ای ناقد. جابی که هر 15 دقیقه اجرا شود، نمی‌تواند به هدف 5 دقیقه‌ای برسد.
  • سطح 3: نمونه‌گیر از هر 10 درخواست موفق 9 مورد را حذف می‌کند. اگر نرخ نشت 1 درصد باشد، چه اتفاقی برای تشخیص می‌افتد؟ پاسخ مورد انتظار: در هر 1000 پاسخ فقط 1 نشت دیده می‌شود؛ در نتیجه در ترافیک پایین، فرایند تشخیص طولانی‌تر خواهد شد. راه‌حل این است که هر ردگیری نشانه‌گذاری‌شده با بررسی الگوی ارزان را نگه دارید.
  • سطح 4: چطور ثابت می‌کنید پایپ‌لاین به هدف زمانی تعیین‌شده می‌رسد؟ پاسخ مورد انتظار: رگرسیون را عمداً تزریق کنید (همان‌طور که در پروژه‌ی نهایی انجام شده) و زمان بین دیپلوی تا شلیک هشدار را اندازه بگیرید.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «ناقد را روی تک‌تک ردگیری‌ها اجرا کنید.» در حجم ترافیک بالا، هزینه‌ی این کار بیشتر از هزینه‌ی فراخوانی‌های خود مدل تمام می‌شود. نمونه‌گیری کنید و اول کار با یک بررسی سبک فیلتر بگذارید.
  • «یک گزارش ارزیابی روزانه کافی است.» نشت شناسه‌ها به‌مدت یک روز خودش رخداد بحرانی (Incident) محسوب می‌شود. هدف ما در مقیاس دقیقه است.
  • «بررسی الگو همه‌چیز را شکار می‌کند.» الگوها تغییر لحن و بازنویسی‌ها را از دست می‌دهند. ناقد مواردی را که از دست الگو دررفته می‌گیرد، و الگو هم باعث می‌شود هزینه‌ی ناقد در حد معقول بماند.

کجای دوره آموزش داده می‌شود

در پروژه‌ی نهایی داشبورد مشاهده‌پذیری زنجیره‌ی دریافت، ارزیابی و هشدار پیاده‌سازی شده و زمان تشخیص با تزریق رگرسیون سنجیده می‌شود؛ همچنین درس اپلیکیشن محیط عملیاتی گاردریل خروجی مبتنی بر الگو را آموزش می‌دهد.