سؤال مصاحبه

برنامه‌ی زمان‌بندی کسینوسی همراه با گرم‌کردن و مرزهای تثبیت‌شده

Warmup plus cosine schedule with pinned boundaries

  • سطح ۴: استف
  • پروژه‌ی خانگی
  • ۲۵ دقیقه

تکلیف عملی: یک برنامه‌ی زمان‌بندی نرخ یادگیری (learning rate schedule) را به‌صورت یک تابعِ تک‌مقداری برحسب گام (step) پیاده‌سازی کنید: شیب خطی از صفر تا مقدار اوج، افت کسینوسی (cosine decay) از اوج تا مقدار کف، و یک مقدار کفِ ثابت پس از آخرین گام. آزمون‌هایی ارائه دهید که مقدار را در تمام مرزها تثبیت کنند، نبودِ جهش و پیوستگی منحنی را اثبات کنند و نشان دهند که ادامه‌ی اجرای آموزش، دقیقاً روی مقدار درست می‌نشیند. طرح و آزمون‌های خود را شرح دهید.

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

یک تابع با سه branch بنویسید: تا رسیدن به گام گرم‌کردن (warmup)، حاصل‌ضرب مقدار اوج در گام تقسیم بر طول گرم‌کردن؛ بین گام گرم‌کردن و گام نهایی، مقدار کف به‌علاوه‌ی نصفِ اختلاف اوج و کف، ضربدرِ یک به‌علاوه‌ی کسینوسِ پی در میزان پیشرفت پس از پایان گرم‌کردن؛ پس از گام نهایی نیز همان مقدار کف. نقاط ثابت را بسنجید: صفر در گام صفر، مقدار اوج در پایان گرم‌کردن از سمت هر دو branch، مقدار کف در گام آخر و مقدار کف یک گام پس از آن. یک آزمون پیوستگی اضافه کنید که تغییراتِ هر گام را محدود کند، و یک آزمون ادامه‌ی آموزش (resume) که برنامه را بر اساس گام سراسری (global step) ذخیره‌شده محاسبه کند.

پاسخ کامل

تابع

if warmup_steps > 0 and step <= warmup_steps:
    lr = lr_max * step / warmup_steps
elif step <= total_steps:
    progress = (step - warmup_steps) / (total_steps - warmup_steps)
    lr = lr_min + 0.5 * (lr_max - lr_min) * (1 + cos(pi * progress))
else:
    lr = lr_min

مقدار کسینوس در پایان گرم‌کردن برابر با 1 می‌شود؛ در نتیجه مقدار اوج را به دست می‌دهد و دقیقاً با اندپوینتِ شیب خطی همخوانی دارد. در گام نهایی نیز به -1 می‌رسد و مقدار کف را حاصل می‌کند. در درس پروژه‌ی پایانی روی این نکته تأکید شده که همین پیوستگی دلیل اصلیِ نوشتنِ کل فرآیند در قالب یک تابع برحسب گام است، نه چسباندن سه تکه‌ی جداگانه به هم: در یک برنامه‌ی سرهم‌بندی‌شده، با اولین تغییر در مقدار اوج یا تعداد گام‌ها، هماهنگی مرزها به هم می‌ریزد. دو شرط کنترلی داریم: branch شیب خطی فقط زمانی اجرا می‌شود که طول گرم‌کردن بزرگ‌تر از صفر باشد؛ بنابراین گرم‌کردنِ صفر گامی، بلافاصله از نقطه اوج شروع می‌شود و بدون خطای تقسیم بر صفر افت را آغاز می‌کند. تابع سازنده، گرم‌کردنی را که کمتر از تعداد کل گام‌ها نباشد رد می‌کند (همان‌طور که در کد درس نیز با خطا این کار انجام شده)، چرا که در غیر این صورت نرخ یادگیری تا گام آخر روی اوج می‌ماند و یک گام بعد ناگهان به کف سقوط می‌کند.

چرا مقدار کف تثبیت می‌شود و خطا برنمی‌گرداند؟

اگر فرآیند آموزش از تعداد کل گام‌های تعیین‌شده فراتر برود، به‌جای متوقف شدن، نرخ یادگیریِ قابل استفاده‌ای را حفظ می‌کند و یک هشدار لاگ می‌اندازد. برای تمدید آموزش، کافی است تعداد گام‌های کل در فایل تنظیمات (config) تغییر کند، نه اینکه حلقه‌ی کد دستکاری شود. کفِ غیرصفر کاملاً عمدی است: درس این مقدار را نزدیک به 10 درصدِ مقدار اوج نگه می‌دارد تا بهینه‌ساز در دنباله‌ی بلند آموزش (long tail) همچنان به یادگیری ادامه دهد. همچنین هشدار می‌دهد که کفِ صفر شاید در نمودار قشنگ به نظر برسد، اما مدل را کمتر از حد لازم آموزش می‌دهد.

آزمون‌ها

  1. نقاط ثابت (Fixed points). با گرم‌کردنِ غیرصفر، lr(0) برابر با 0 است، lr(warmup) هم از سمت branch شیب خطی و هم از سمت branch کسینوسی برابر با اوج است، lr(total) برابر با کف و lr(total + 1) نیز برابر با کف است.
  2. پیوستگی (Continuity). برای هر گام از 0 تا total، میزان تغییر بین دو گام متوالی حداکثر برابر است با مقدار بزرگ‌تر میانِ این دو: شیب افزایش خطی (اوج تقسیم بر گام‌های گرم‌کردن) و تندترین شیب کسینوسی (پی ضربدر اختلاف اوج و کف، تقسیم بر دو برابرِ طول افت). در تمرینِ درس اشاره شده که یک بازه‌ی کسینوسیِ کوتاه می‌تواند شیبی تندتر از شیب خطی داشته باشد؛ بنابراین شیب خطی به‌تنهایی کرانِ امنی نیست.
  3. ادامه‌ی آموزش (Resume). یک چک‌پوینت (checkpoint) همراه با گام سراسری ذخیره کنید، آن را دوباره بارگذاری کنید و بررسی کنید که مقدار بعدی دقیقاً برابر با lr(global step + 1) باشد. برنامه مقدار یکنوای گام سراسری را از چک‌پوینت می‌خواند، نه از شمارنده‌ی دوره (epoch) یا متغیر حلقه؛ چرا که شارد (shard) شدن داده‌ها و راه‌اندازی مجدد دیتالودرها نگاشتِ دوره به گام را خراب می‌کنند.
  4. شکل نمودار (Shape). برنامه‌ی زمان‌بندی را در قالب یک نمودار متنی و یک فایل CSV (یک سطر به ازای هر گام) خروجی بگیرید و نمودار را در پوشه‌ی اجرا قرار دهید تا بازبین بتواند بدون نیاز به اجرای کد، شکل منحنی را ببیند.

نکات محیط عملیاتی از متن درس

این چهار عددِ برنامه‌ی زمان‌بندی در یک فایل تنظیماتِ نسخه‌بندی‌شده نگهداری می‌شوند، نه داخل کد. گرم‌کردن کسری از کل گام‌هاست (حدود 1 تا 3 درصد) تا با طولانی‌تر شدن اجرا، شکل منحنی حفظ شود. سطر لاگ به ترتیب شامل گام، نرخ یادگیری، نُرم L2 گرادیان و تابع زیان (loss) است تا داشبوردها بتوانند به‌راحتی آن را بخوانند.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 3: چرا هر سه ناحیه در یک تابع پیاده‌سازی می‌شوند؟ پاسخ مورد انتظار: تا اندپوینتِ شیب خطی و نقطه‌ی آغاز کسینوس از یک فرمول مشترک برای مقدار اوج استفاده کنند و با تغییر مقدار اوج یا تعداد گام‌ها، شکافی در مرزها ایجاد نشود.
  • سطح 4: کرانِ مناسب برای آزمون پیوستگی چیست؟ پاسخ مورد انتظار: مقدار بزرگ‌تر میان شیب افزایش خطی (اوج تقسیم بر گام‌های گرم‌کردن) و تندترین شیب کسینوسی (پی ضربدر اختلاف اوج و کف، تقسیم بر دو برابرِ طول افت)؛ چون یک بازه‌ی کسینوسی کوتاه می‌تواند از شیب خطی تندتر باشد.
  • سطح 4: چرا پس از آخرین گام، مقدار روی کف تثبیت می‌شود و خطا ایجاد نمی‌شود؟ پاسخ مورد انتظار: فرآیند آموزشی که از حد فراتر برود، یک نرخ یادگیری معتبر را حفظ کرده و هشدار ثبت می‌کند؛ برای ادامه‌ی آموزش باید مقدار total در فایل تنظیمات عوض شود، نه خودِ حلقه.
  • سطح 4: چه چیزی باعث می‌شود اجرای ادامه‌یافته روی مقدار درستی بنشیند؟ پاسخ مورد انتظار: برنامه، گام سراسریِ یکنوای ذخیره‌شده در چک‌پوینت را می‌خواند، نه شمارنده‌ی دوره یا یک متغیر محلی در حلقه.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «کف را روی صفر بگذارید تا برنامه تمیز و مرتب تمام شود.» درس، کفِ غیرصفر را روی حدود 10 درصد از مقدار اوج نگه می‌دارد تا بهینه‌ساز در مراحل پایانی همچنان یاد بگیرد؛ کفِ صفر فقط ظاهر تمیزی دارد و مدل را نیمه‌کاره و آموزش‌ندیده رها می‌کند.
  • «چند گام را در وسط بازه بسنجید؛ مرزها خودبه‌خود بر اساس فرمول درست درمی‌آیند.» خطای یکی کم یا زیاد (off-by-one) در مرزها دقیقاً همان باگی است که درس درباره‌اش هشدار می‌دهد؛ این خطا ساعت‌ها پس از شروع اجرا، درست در حساس‌ترین لحظه، خودش را به‌صورت یک خطای 1 درصدی در نرخ یادگیری نشان می‌دهد.
  • «نرخ یادگیری را بر اساس دوره و اندیس دسته (batch) محاسبه کنید.» داده‌های شاردشده و لودرهای راه‌اندازی‌شده این نگاشت را خراب می‌کنند؛ گام سراسری تنها متغیرِ پایدار و قابل اعتماد است.

کجای دوره آموزش داده می‌شود

پروژه‌ی پایانیِ گرم‌کردن با افت کسینوسی این برنامه‌ی زمان‌بندی را همراه با قراردادهای مرزی و الگوهای محیط عملیاتی (production) پیاده می‌کند، و درس برنامه‌های زمان‌بندی نرخ یادگیری آن را با سایر برنامه‌ها مقایسه می‌کند.