توکنسازی، نمونهبرداری و رمزگشایی
Tokenization, sampling and decoding
تبدیل متن به توکن، نحوهی انتخاب توکن بعدی توسط مدل، و سرعتبخشی به رمزگشایی با روش حدسی.
- ۲۲ سؤال
- ۳ ساعت تمرین
- پاسخها بستهاند تا اول خودتان جواب بدهید
سطح
نوع
۲۲ سؤال
سطح ۱ غربالگری ۳
سطح ۲ میانی ۹
- شمارش پنجرههای حاصل از یک جریان توکن
- گرامر چطور لاجیتها را دستکاری میکند و چرا این کار میتواند سرعت را بیشتر کند؟
- تحلیل عددیِ افزایش اندازهی واژگان به 128K
- چرا دیکودینگ حدسی روی کد پرواز میکند و روی نویسندگی خلاق متوقف میشود؟
- نوتبوک کار میکند اما سرویس بیوقفه حرف میزند
- سه روش برای ساخت واژگان زیرکلمه
- دو رمزگشا؛ یکی روی ایموجی از کار میافتد
- هدف از جداسازی متن قبل از اعمال mergeها چیست؟
- چرا انکودر فهرست mergeها را به ترتیب بازپخش میکند؟
سطح ۳ ارشد ۷
- تمام خروجیها معتبرند اما پاسخها غلط از آب درمیآیند
- از نرخ پذیرش تا توکن بهازای هر بار اجرا
- تحلیل یک گام دیکودینگ حدسی و دفاع از تکتک خطوط آن
- پروژه ارزیابی مهندسی: پیادهسازی توکنایزر سطح بایت همراه با تستها
- وزنها تغییر نکردند اما امتیاز افت کرد
- کدام معماری پیشبینی چندتوکنی یک مدل پیشنویس رایگان فراهم میکند؟
- چرا مدل پیشنویسی که وضعیتهای پنهان را میخواند نرخ پذیرش بالاتری دارد؟