سؤال مصاحبه

فقط هد را آموزش دهیم یا کل مدل را فاین‌تیون کنیم؟

Train the head only, or fine-tune the whole model

  • سطح ۱: غربالگری
  • بده‌بستان
  • ۸ دقیقه

یک مدل ترنسفورمر (Transformer) پیش‌آموزش‌دیده‌ی کوچک دارید و 800 پیامک برچسب‌خورده که نیمی از آن‌ها اسپم هستند. باید تا فردا یک رده‌بندی‌کننده‌ی دودویی بسازید. آیا فقط یک هد (Head) رده‌بندی جدید را آموزش می‌دهید یا همه‌ی وزن‌ها را به‌روزرسانی می‌کنید؟ از انتخابتان دفاع کنید.

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

هدِ مدل زبانی را با یک لایه‌ی خطی دوکلاسه جایگزین کنید و کار را با فریز نگه‌داشتن بدنه‌ی مدل شروع کنید. آموزشِ فقط هد سریع است، تقریباً هیچ حافظه‌ای مصرف نمی‌کند و روی این حجم کم از داده به‌ندرت دچار بیش‌برازش (Overfitting) می‌شود. بدنه‌ی مدل را فقط زمانی از حالت فریز خارج کنید که مدل فریز‌شده دقت کافی را ارائه ندهد و دامنه‌ی داده‌ها با متن پیش‌آموزش فاصله‌ی زیادی داشته باشد.

پاسخ کامل

دو رویکرد، یک حلقه‌ی آموزش

بدنه‌ی مدل توکن‌ها (Tokens) را به وضعیت‌های پنهان (Hidden states) نگاشت می‌کند و دست‌نخورده باقی می‌ماند. هد، وضعیت پنهانِ ادغام‌شده را به دو لاجیت (Logits) نگاشت می‌کند و لایه‌ای تازه است. در حالت آموزشِ فقط هد، مقدار requires_grad=False را برای بدنه تنظیم می‌کنیم تا بهینه‌ساز (Optimizer) فقط هد را ببیند. در فاین‌تیونینگ کامل (Full Fine-Tuning)، گرادیان (Gradient) در کل شبکه جریان می‌یابد و بدنه به سمت هدف رده‌بندی دریفت می‌کند (Drift).

دستاورد هر روش چیست؟

روی مجموعه‌داده‌ی نمونه (Fixture) در پروژه‌ی نهایی، آموزش فقط هد بعد از 20 اپوک به دقت (Precision) نزدیک به 0.9 و بازخوانی (Recall) نزدیک به 0.85 رسید. فاین‌تیونینگ کامل حدود سه برابر بیشتر زمان برد و بسته به سید (Seed)، نتیجه‌اش در حد یکی دو درصد بالا یا پایین شد. با 800 نمونه، بدنه چیز زیادی از برچسب‌ها یاد نمی‌گیرد و در عوض بخش زیادی از اطلاعات قبلی‌اش را از یاد می‌برد.

ادغام (Pooling)

یک رده‌بندی‌کننده به ازای هر توالی به یک بردار نیاز دارد. ادغام میانگین (Mean Pooling) با وزن‌دهی بر اساس ماسک اتنشن (Attention mask) ساده‌ترین انتخاب است و در طول‌های مختلف توالی، سیگنال پایداری فراهم می‌کند. استفاده از توکن رده‌بندی (CLS) نیازمند آن است که این توکن در مرحله‌ی پیش‌آموزش تعریف شده باشد. ادغام روی آخرین توکن هم روشی است که رده‌بندی‌کننده‌های مبتنی بر دیکودر (Decoder) استفاده می‌کنند.

معیارها را دقیق بخوانید، نه فقط یک دقت کلی

معیارهای دقت، بازخوانی، F1 و ماتریس درهم‌ریختگی (Confusion Matrix) را روی داده‌های ارزیابی کنارگذاشته‌شده (Held-out split) با توازن کلاسیِ مشخص بسنجید. در این درس، داده‌ها به نسبت 80 به 20 به 640 پیامک آموزشی و 160 پیامک آزمایشی تقسیم می‌شوند؛ آن هم به‌صورت طبقه‌بندی‌شده (Stratified) تا مجموعه‌ی آزمایشی توازن خود را حفظ کند.

چه زمانی به‌روزرسانی کامل نتیجه می‌دهد؟

با 80,000 نمونه و بدنه‌ی مدل بزرگ‌تر، داده‌ها سیگنال کافی برای تغییر وزن‌ها بدون خطر بیش‌برازش را دارند و تغییر دامنه داده‌ها (Domain shift) می‌تواند این هزینه را توجیه کند. یک راهکار میانه هم این است که فقط آخرین بلوک را از حالت فریز خارج کنید.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 1: تنظیم requires_grad=False برای بدنه‌ی مدل چه اثری روی بهینه‌ساز دارد؟ پاسخ مورد انتظار: بهینه‌ساز فقط پارامترهای هد را دریافت می‌کند، بنابراین وزن‌های بدنه دست‌نخورده باقی می‌مانند.
  • سطح 2: چرا ادغام میانگین و نه آخرین وضعیت پنهان؟ پاسخ مورد انتظار: ادغام میانگین همراه با ماسک، فارغ از طول توالی خروجیِ پایداری می‌دهد و نیازی به توکن خاص ندارد؛ ادغام روی آخرین توکن هم مناسب مدل‌های دیکودری است که در پیش‌آموزش خود با این الگو آموزش دیده‌اند.
  • سطح 2: چرا مجموعه‌ی آزمایشی باید طبقه‌بندی‌شده بماند؟ پاسخ مورد انتظار: توازن کلاسیِ مشخص باعث می‌شود دقت و بازخوانی اعدادی واقعی و قابل‌اتکا باشند.
  • سطح 3: به‌روزرسانی کامل مدل روی این داده‌ها امتیاز کمتری نسبت به حالت فریز ثبت کرده است؛ دلیلش چیست؟ پاسخ مورد انتظار: بدنه روی این مجموعه‌داده‌ی کوچک دچار بیش‌برازش شده و ساختار پیش‌آموزش‌دیده‌ی خود را از دست داده است؛ باید نرخ یادگیری (Learning rate) بدنه را کاهش دهید، بلوک‌های کمتری را از فریز خارج کنید یا کار را با همان آموزش هد پیش ببرید.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «یک رده‌بندی‌کننده‌ی جدید را از صفر آموزش دهید؛ مدل در هر صورت کوچک است.» بدنه‌ی پیش‌آموزش‌دیده ماهیت کلمات، موقعیت آن‌ها و هم‌آیی‌شان را می‌شناسد؛ ساخت مدل از صفر با 800 نمونه یعنی دور ریختن تمام این اطلاعات.
  • «به‌روزرسانی همه‌ی وزن‌ها همیشه دقت بالاتری می‌دهد، پس باید انجامش داد.» روی 800 نمونه، تفاوت نتیجه با حالت فریز در حد یکی دو درصد است، زمان آموزش سه برابر می‌شود و خطر جدی بیش‌برازش هم وجود دارد.
  • «فقط دقت کلی (Accuracy) را گزارش کنید، چون کلاس‌ها متوازن هستند.» دقت و بازخوانی نشان می‌دهند دچار چه نوع خطایی شده‌اید و ماتریس درهم‌ریختگی، تعداد و ارقامِ پشت این امتیاز را نمایان می‌کند.

کجای دوره آموزش داده می‌شود

پروژه‌ی نهاییِ فاین‌تیونینگ رده‌بندی‌کننده هر دو رویکرد را در یک حلقه‌ی آموزش پیاده‌سازی می‌کند و معیارهای دقت، بازخوانی و F1 را برای هر کدام به دست می‌آورد.