کدنویسی
Coding
کدی را بنویسید که درسها آموزش میدهند. هر بخش به یک وظیفه تمرینی همراه با بررسیها متصل است.
- ۲۲ سؤال
- ۵ ساعت تمرین
- پاسخها بستهاند تا اول خودتان جواب بدهید
سطح
نوع
۲۲ سؤال
سطح ۱ غربالگری ۳
سطح ۲ میانی ۹
- ماسک علّی که خودِ توکن را هم مسدود میکند
- یک merge که باعث اشتراک نماد بین دو تطابق میشود
- تابع زیان آموزشی که به صفر میرسد و هیچچیز یاد نمیگیرد
- دراپاوتی که در زمان ارزیابی هم فعال میماند
- تقسیم هدها با ابعاد درست و دادههای کاملاً غلط
- جایگزینی جدول موقعیت یادگیریشده با جدول ثابت
- آموزش فهرست merge در BPE بر اساس بسامد کلمات
- کاهش وزنی که وارد گرادیان شد
- پیادهسازی مرحلهی نمونهبرداری در حلقهی تولید متن
سطح ۳ ارشد ۸
- کش کلید-مقداری که آخرین جایگاه خود را از دست میدهد
- هدهای اتنشنی که هرگز با هم ترکیب نمیشوند
- اتصال اشتباه هدهای پرسوجو به گروهها در GQA
- نمونهبرداری هستهای که توکنِ رساننده به p را حذف میکند
- جایگزینی لایهنرم نهایی با RMSNorm بدون شکستن مدل
- جستجوی شبکهای نرخ یادگیری اوج و تشخیص واگرایی
- آموزش کوچکترین مدل زبانی فراتر از خط مبنا
- کاهش وزن را باید روی کدام پارامترها اعمال کرد؟