سؤال مصاحبه

پیش از آنکه نمره‌ی داور به درگاه انتشار تبدیل شود

Before a judge score can gate a release

  • سطح ۲: میانی
  • مفهومی
  • ۸ دقیقه

شیوه‌نامه‌ی نمره‌دهی (rubric) را نوشته‌اید و حالا یک مدل داور (judge model)، وفاداری (faithfulness) سیستم بازیابی (retrieval) شما را می‌سنجد. داشبورد میانگین بالایی را نشان می‌دهد و تیم می‌خواهد از دوشنبه این نمره را به‌عنوان درگاه انتشار (release gate) قرار دهد. قبل از اینکه این عدد بتواند جلوی انتشار را بگیرد یا مجوز آن را صادر کند، چه مراحلی باید طی شود؟

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

ابتدا داور را بر اساس قضاوت انسانی کالیبره کنید. حدود 100 نمونه را دستی برچسب‌گذاری کنید، با مدل داور به آن‌ها نمره دهید و ضریب همبستگی رتبه‌ای اسپیرمن (Spearman rank correlation) را بین این دو رتبه‌بندی بسنجید. اگر همبستگی زیر 0.7 باشد، شیوه‌نامه‌ی نمره‌دهی نیاز به بازنگری دارد و این نمره صرفاً نوفه (noise) است. سپس مدل داور و نسخه‌ی آن را فریز کنید و علاوه بر میانگین، حواستان به پایین‌ترین نمره‌ها هم باشد.

پاسخ کامل

چرا نمره‌ی خام داور گمراه‌کننده است؟

مدل داور به سه شکل پنهان به خطا می‌رود. اول، سوگیری دارد: پاسخ‌های طولانی‌تر، پاسخ‌های مدل‌های هم‌خانواده‌ی خودش و پاسخ‌هایی را که با لحن و سبک پرامپت همخوانی دارند ترجیح می‌دهد. دوم، ممکن است خروجی نامعتبر JSON بدهد؛ چنین نمره‌ای ثبت نمی‌شود، از محاسبات آماری کنار می‌رود و در نتیجه میانگین را کاذب بالا می‌برد. سوم، دچار دریفت (drift) می‌شود: هر نسخه‌ی جدید از مدل داور، همه‌ی معیارها را یک‌باره دگرگون می‌کند.

اجرای کالیبراسیون

  1. حداقل 50 نمونه را دستی برچسب‌گذاری کنید؛ در این درس از 100 نمونه استفاده می‌شود. دامنه‌ی پایینی توزیع (نمونه‌های ضعیف و دشوار) را هم پوشش دهید، نه فقط موارد ساده را.
  2. با مدل داور به همان نمونه‌ها نمره دهید.
  3. نمودار نمرات داور را در برابر انسان رسم کرده و همبستگی رتبه‌ای اسپیرمن را محاسبه کنید.
  4. همبستگی زیر 0.7 یعنی شیوه‌نامه‌ی نمره‌دهی نیاز به اصلاح دارد. داوری با نمره‌ی 0.3 عملاً با نوفه فرقی ندارد.

از داوری استفاده کنید که از خانواده‌ی مدلیِ متفاوتی نسبت به مدل تولیدکننده باشد. مدلی که به هم‌خانواده‌های خودش نمره می‌دهد، نمرات را حدود 10 تا 20 درصد باد می‌کند.

پس از اجرا

  • مدل داور و نسخه‌ی آن را فریز کنید. هنگام ارتقا، قبل از هرگونه مقایسه، ابتدا داور قدیم و جدید را روی همان خط مبنا (baseline) یکسان اجرا کنید.
  • چندک پایینی (bottom quantile) را با دقت بررسی کنید. میانگین 0.85 می‌تواند یک بخش 5 درصدی از شکست‌های فاجعه‌بار را پنهان کند.
  • مجموعه‌ی ارزیابی را نسخه‌بندی کنید و با هر تغییر روی آن تگ بزنید، تا نمره‌ی این ماه دقیقاً هم‌ارز نمره‌ی ماه گذشته باشد.
سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 2: چرا همبستگی اسپیرمن و نه اختلاف میانگین بین نمرات داور و انسان؟ پاسخ مورد انتظار: اسپیرمن رتبه‌بندی‌ها را مقایسه می‌کند؛ بنابراین داوری که سخت‌گیر است اما موارد را با همان ترتیب درست می‌چیند، همچنان پذیرفته می‌شود.
  • سطح 2: کوچک‌ترین مجموعه‌ی دستیِ قابل قبول در این درس چقدر است؟ پاسخ مورد انتظار: این درس داوری را که روی کمتر از 50 نمونه‌ی ارزیابی‌شده توسط انسان سنجیده شده باشد نمی‌پذیرد.
  • سطح 3: مدل داور دقیقاً همان مدلی است که پاسخ‌ها را می‌نویسد؛ اجرای کالیبراسیون احتمالاً چه چیزی را نشان می‌دهد؟ پاسخ مورد انتظار: نمرات به میزان 10 تا 20 درصد به‌طور کاذب بالا می‌روند؛ باید داور را به خانواده‌ی مدلی دیگری تغییر دهید.
  • سطح 3: همبستگی در حد نصاب است، اما در دهک پایینی نمرات غلط با اطمینان بالا ثبت شده است. محصول را منتشر می‌کنید؟ پاسخ مورد انتظار: خیر؛ همبستگیِ میانگین می‌تواند فجایع را پنهان کند، بنابراین پیش از آنکه این عدد مجوزی برای انتشار باشد، 10 درصد پایینی را بازبینی کنید.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «شیوه‌نامه‌ی نمره‌دهی شفاف است، پس داور درست می‌گوید.» سوگیری طول متن و سوگیری هم‌خانواده بودن مدل حتی با شیوه‌نامه‌ی شفاف هم پابرجا می‌مانند؛ تنها همبستگی با ارزیابی انسانی شدت این سوگیری‌ها را آشکار می‌کند.
  • «چون با متریک قدیمی‌مان همخوانی دارد، پس کالیبره است.» شاید متریک قدیمی هم همان سوگیری را داشته باشد؛ ملاک کالیبراسیون انسان است.
  • «یک بار کالیبره می‌کنیم و مدام نسخه‌ی داور را ارتقا می‌دهیم.» هر نسخه‌ی جدید داور کل نمرات را دستخوش تغییر می‌کند؛ نسخه را فریز کنید یا خط مبنا را به شکل موازی روی نسخه‌ی جدید دوباره بسنجید.

کجای دوره آموزش داده می‌شود

درس چارچوب‌های ارزیابی LLM، فرمول کالیبراسیون و سه خطای پنهان مدل‌های داور را آموزش می‌دهد.