یادگیری عمیق
Deep learning
پسانتشار خطا، توابع زیان، بهینهسازها، مقداردهی اولیه و عیبیابی شبکهای که یاد نمیگیرد.
- ۲۲ سؤال
- ۴ ساعت تمرین
- پاسخها بستهاند تا اول خودتان جواب بدهید
سطح
نوع
۲۲ سؤال
سطح ۱ غربالگری ۳
سطح ۲ میانی ۹
- دستهبندی که مقدار 0.5 را پیشبینی میکند و زیان پایینی دارد
- لایهای عریض که مثل یک نورون رفتار میکند
- چه مقدار از گرادیان پس از عبور از ده لایهی سیگموئید زنده میماند؟
- خواندن ابعاد یک شبکهی 2-3-1 از روی کلاس Layer
- سه خط کدی که مشتق تابع زیان آنتروپی متقاطع را حساب میکنند
- کاهش وزن در تابع زیان یا در بهینهساز
- نقش تصحیح سوگیری در گامهای اولیهی الگوریتم Adam
- عدد 2 در مقداردهی اولیهی Kaiming از کجا میآید؟
- چرا مقادیر ماسک دراپاوت برابر با 1 بر روی (1 منهای p) است؟
سطح ۳ ارشد ۷
- گیر کردن تابع زیان روی عدد 2.3 در مسئلهی 10 کلاسه
- حلقهی آموزشی که تابع زیان (loss) آن بعد از چند گام نوسان میکند
- بررسی 30 ثانیهای پیش از آغاز یک آموزش چندروزه
- دو لایه که در آنها خروجی اکثر واحدهای ReLU دقیقاً صفر است
- گرمکردن نرخ یادگیری جلوی چه مشکلی را میگیرد؟
- چرا یک پشتهی پسماند عمیق به چیزی بیش از مقداردهی کایمینگ نیاز دارد
- چرا ترنسفورمرها نرمالسازی را روی ویژگیها انجام میدهند، نه روی دسته؟