سؤال مصاحبه

آیا متن کامل پرامپت باید روی اسپن قرار بگیرد؟

Should the full prompt live on the span

  • سطح ۲: میانی
  • بده‌بستان
  • ۸ دقیقه

بک‌اند ردگیری محاسبات (Trace backend) شما می‌تواند متن کامل پرامپت و پاسخ مدل (Completion) را روی تک‌تک اسپن‌های (Span) مدل ذخیره کند. تیم پشتیبانی می‌خواهد این قابلیت روشن باشد، چون تیکت‌ها را از روی تریس‌ها دیباگ می‌کند. تیم امنیت می‌خواهد خاموش باشد. تصمیم شما چیست، و چطور همچنان نیاز تیم پشتیبانی را برطرف می‌کنید؟

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

ثبت محتوا (Content Capture) را خاموش نگه دارید؛ این همان حالت پیش‌فرضی است که قراردادها توصیه می‌کنند. پرامپت‌ها و پاسخ‌ها را در فضای ذخیره‌سازی اختصاصی خودتان، همراه با کنترل دسترسی و دوره‌ی ماندگاری مشخص نگهداری کنید و یک شناسه‌ی ارجاع (Reference ID) روی اسپن بنویسید. تیم پشتیبانی با این شناسه، از تریس به محتوا می‌رسد و بک‌اند تریس هم هیچ‌وقت داده‌های مشتری را در خود نگه نمی‌دارد.

پاسخ کامل

رفتار پیش‌فرض سیستم

به‌طور پیش‌فرض، یک اسپن فقط شامل زمان‌بندی و متریک‌هاست، نه پرامپت‌ها یا پاسخ‌ها. ثبت محتوا با متغیر اختیاری‌سازی پایداری (Stability Opt-In) و متغیرهای محتواییِ مجزا فعال می‌شود. وقتی روشن باشد، محتوا در gen_ai.input.messages، gen_ai.output.messages و gen_ai.system_instructions، یا داخل رویدادهای محتواییِ روی اسپن می‌نشیند.

خطرات فعال بودن این قابلیت

پرامپت‌ها حاوی داده‌های شخصی، اطلاعات محرمانه و اسناد مشتریان هستند. اپراتورها تریس‌ها را می‌خوانند و بک‌اند تریس هم دوره‌ی ماندگاری مستقل خود را تعیین می‌کند. درس قراردادها، «ثبت پرامپت‌های کامل در اسپن‌ها» را نخستین سناریوی شکست این الگو معرفی می‌کند. علاوه بر این، بک‌اند تریس هدفی جذاب برای حمله به حساب می‌آید، چرا که همه‌چیز را یک‌جا جمع کرده است.

الگویی که جواب می‌دهد

محتوا را خارج از تریس ذخیره کنید: در مخزن لاگ‌ها یا ذخیره‌ساز ابری اشیاء (Object store)، تحت سیستم کنترل دسترسی، لاگ بازرسی (Audit log) و دوره‌ی ماندگاری اختصاصی خودتان. روی اسپن فقط یک شناسه‌ی ارجاع بگذارید. در درس به این رویکرد «الگوی ارجاع خارجی» (External-reference pattern) می‌گوییم؛ این روش در برابر مسموم‌سازی محتوا (Content poisoning) هم نقش دفاعی دارد، زیرا متن آلوده هرگز وارد سیستم تلمتری نمی‌شود.

نتیجه برای تیم پشتیبانی

همان مسیر دیباگ با یک گام اضافه: تریس، اسپن، شناسه‌ی ارجاع، مخزن محتوا. مخزن محتوا می‌تواند الگوهای حساس شناخته‌شده را هنگام نوشتن، پاک‌سازی داده‌های حساس (Redaction) کند و هر بار خواندن داده را نیز در لاگ ثبت کند. بیشتر تیکت‌ها اصلاً به محتوا نیازی ندارند؛ زیرا اسپن قبلاً نوع مدل، تعداد توکن‌ها، تاخیر (Latency)، فراخوانی ابزارها (Tool calls) و وضعیت اجرا را نشان داده است.

هزینه‌ای که می‌پردازید

مشاهده‌ی یک‌کلیکی پرامپت داخل رابط کاربری تریس را از دست می‌دهید. این تنها بهای ماجراست، و در مقایسه با بک‌اند تریسی پر از داده‌های مشتریان، بهایی بسیار ناچیز به شمار می‌رود.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 2: وقتی ثبت محتوا فعال است، کدام اسپن‌ها مجازند محتوای خام را حمل کنند؟ انتظار می‌رود: در محیط عملیاتی (Production) هیچ‌کدام. یک قانون واحد بگذارید: فقط ارجاع؛ تا کسی مجبور نباشد برای تک‌تک اسپن‌ها تصمیم جداگانه بگیرد.
  • سطح 3: توسعه‌دهنده‌ای ثبت محتوا را برای یک روز در محیط Staging روشن می‌کند. چه خطری وجود دارد؟ انتظار می‌رود: محیط Staging معمولاً پرامپت‌های محیط عملیاتی را بازپخش (Replay) می‌کند و بک‌اند هم آن‌ها را تا پایان دوره‌ی ماندگاری‌اش نگه می‌دارد. از پرامپت‌های ساختگی استفاده کنید یا پیش از خروجی گرفتن، داده‌ها را پاک‌سازی کنید.
  • سطح 3: چطور مانع از این می‌شوید که مخزن محتوا به همان منبع نشتی داده تبدیل شود؟ انتظار می‌رود: دسترسی بر اساس نقش، لاگ بازرسی برای تمام دفعات خواندن، دوره‌ی ماندگاری مشخص، و پاک‌سازی داده‌های حساس بر اساس الگوهای شناخته‌شده پیش از نوشتن.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «روشنش کنید، بک‌اند تریس یک سامانه‌ی داخلی است.» اپراتورهای داخلی تریس‌ها را می‌خوانند و سیاست ماندگاری داده در بک‌اند هم دست شما نیست.
  • «هش پرامپت را روی اسپن ذخیره کنید.» هش فقط تکراری بودن پرامپت را نشان می‌دهد، اما چیزی برای خواندن در اختیار تیم پشتیبانی نمی‌گذارد. شناسه‌ی ارجاع به یک مخزن حفاظت‌شده هر دو هدف را پوشش می‌دهد.
  • «محتوا را روی اسپن نگه دارید و با Regex داده‌های شخصی را حذف کنید.» الگوها همیشه مواردی را جا می‌اندازند؛ علاوه بر این، اسپن اساساً مکان نامناسبی برای نگهداری این داده‌هاست و دوره‌ی ماندگاری نامناسبی هم دارد.

کجای دوره آموزش داده می‌شود

درس قراردادها قاعده‌ی اختیاری‌سازی و الگوی ذخیره‌ی محتوا خارج از اسپن را مشخص می‌کند، و درس OpenTelemetry GenAI رویدادهای محتوایی را نام می‌برد.