فاز 1
مبانی ریاضی
شهود پشت همه‌ی الگوریتم‌های هوش مصنوعی، با کد و نه با کتاب درسی.
- 22 درس
- حدود 32 ساعت
- شهود جبر خطی برای هوش مصنوعی: از پیاده‌سازی دستی تا NumPy و PyTorchدرک شهودی و هندسی پایه‌های جبر خطی در هوش مصنوعی همراه با پیاده‌سازی بردارها، ماتریس‌ها، استقلال خطی و تصویر کردن از صفر در پایتون.
- جبر خطی کاربردی: ساخت ماتریس‌ها و بردارها از صفر در پایتونپیاده‌سازی کلاس بردار و ماتریس از صفر در پایتون و درک مکانیسم ریاضی لایه‌های شبکه عصبی و برادکستینگ.
- تبدیل‌های ماتریسی، مقادیر ویژه و بردار ویژه در یادگیری ماشیندرک هندسی تبدیل‌های ماتریسی، چرخش، مقیاس‌بندی و محاسبه‌ی بردارها و مقادیر ویژه در پایتون برای تحلیل مدل‌های یادگیری ماشین.
- حسابان برای یادگیری ماشین: درک شهودی گرادیان و بهینه‌سازیآموزش پایه‌ای حسابان در یادگیری ماشین: مشتق‌ها، گرادیان کاهشی، ماتریس هسیان و نحوه‌ی به‌روزرسانی وزن‌ها در آموزش شبکه‌های عصبی.
- قاعده زنجیره‌ای و مشتق‌گیری خودکار: پیاده‌سازی Autograd از صفرپیاده‌سازی گام‌به‌گام یک موتور کامل Autograd از صفر با پایتون خالص، بررسی صحت گرادیان‌ها و آموزش یک مدل MLP روی مسئله XOR.
- مبانی احتمال و توزیع‌های آماری در یادگیری ماشینپیاده‌سازی پایه‌ای احتمال، توابع PMF و PDF، سافت‌مکس با پایداری عددی و زیان کراس‌انتروپی از صفر با پایتون برای درک دقیق ریاضیات مدل‌ها.
- قضیه بیز و طبقه‌بند نایو بیز در یادگیری ماشینآموزش پیاده‌سازی قضیه‌ی بیز، طبقه‌بند نایو بیز، برآورد MLE در برابر MAP و تحلیل آزمون A/B بیزی از صفر در پایتون.
- بهینه‌سازی در یادگیری عمیق: پیاده‌سازی گرادیان کاهشی، تکانه و Adam از صفرآموزش کامل مفاهیم و پیاده‌سازی الگوریتم‌های گرادیان کاهشی، SGD با تکانه و Adam از صفر، به همراه بررسی نقاط زینی و چشم‌انداز زیان.
- نظریه اطلاعات در یادگیری ماشین: از آنتروپی تا پرپلکسیتیمبانی نظریه اطلاعات در یادگیری ماشین: پیاده‌سازی آنتروپی، واگرایی KL، آنتروپی متقاطع و پرپلکسیتی از صفر تا کاربرد در مدل‌های زبانی.
- کاهش ابعاد: راهنمای عملی PCA، t-SNE و UMAPآموزش جامع روش‌های کاهش ابعاد: پیاده‌سازی PCA از صفر، بصری‌سازی داده‌ها با t-SNE و UMAP و مقابله با پدیده‌ی نفرین ابعاد.
- تجزیه مقادیر منفرد (SVD): از هندسه تا کاربرد در یادگیری ماشینراهنمای جامع تجزیه مقادیر منفرد (SVD): از شهود هندسی و تقریب کم‌رتبه تا فشرده‌سازی تصویر و پیاده‌سازی عملی در پایتون.
- عملیات‌های تنسوری: از چیدمان حافظه و برادکستینگ تا einsum و اتنشنراهنمای عمیق و کاربردی کار با تنسورها، گام‌های حافظه، برادکستینگ، عملگر einsum و تحلیل دقیق ابعاد در سازوکار اتنشن چندسر.
- پایداری عددی در یادگیری ماشین: راهنمای عملی ممیز شناور، سرریز و دقت ترکیبیراهنمای عملی رفع خطاهای عددی، مدیریت سرریز و زیرریز در محاسبات ممیز شناور، ترفند تفریق بیشینه و آموزش با دقت ترکیبی در یادگیری ماشین.
- نرم‌ها و فاصله‌ها در یادگیری ماشین: از اقلیدسی تا کسینوسی و واسرشتاینراهنمای جامع توابع فاصله و نرم‌های برداری در یادگیری ماشین؛ چرا انتخاب متریک اشتباه کل سیستم جستجو و خوشه‌بندی را خراب می‌کند.
- آمار در یادگیری ماشین: از آزمون فرض تا بوت‌استرپیادگیری مفاهیم کلیدی آمار برای یادگیری ماشین: آزمون‌های آماری، بوت‌استرپ، همبستگی و تفکیک سیگنال از نوفه با پیاده‌سازی کامل در پایتون.
- روش‌های نمونه‌برداری در یادگیری ماشین و مدل‌های زبانیپیاده‌سازی صفر تا صد روش‌های نمونه‌برداری آماری و راهبردهای رمزگشایی مدل‌های زبانی مانند Temperature، Top-k و ترفند بازپارامتری‌سازی.
- حل دستگاه‌های معادلات خطی و تجزیه ماتریس‌ها در پایتونپیاده‌سازی صفر تا صد روش‌های حل دستگاه‌های خطی، فاکتورگیری ماتریس‌ها (LU، QR و چولسکی) و پایداری عددی با عدد حالت در پایتون.
- بهینه‌سازی کوژ در یادگیری ماشین: از ماتریس هسیان تا روش نیوتن و شرایط KKTدرک عمیق بهینه‌سازی کوژ، ماتریس هسیان، روش نیوتن و شرایط KKT در یادگیری ماشین به‌همراه مقایسه‌ی آن با بهینه‌سازی ناکوژ در شبکه‌های عصبی.
- اعداد مختلط در هوش مصنوعی: از فرمول اویلر تا امبدینگ RoPEدرک عمیق اعداد مختلط، فرمول اویلر و چرخش‌های دوبعدی برای فهم پایه‌ای تبدیل فوریه (DFT) و مکانیزم کدگذاری RoPE در معماری‌های نوین هوش مصنوعی.
- آموزش تبدیل فوریه، DFT و FFT در یادگیری ماشینآموزش گام‌به‌گام پیاده‌سازی DFT و FFT از صفر، تحلیل طیفی، قضیه کانولوشن و کاربرد آن‌ها در مدل‌های بینایی، صوتی و ترنسفورمرها.
- نظریه گراف برای یادگیری ماشین: از مبانی تا GNNآموزش پایه‌ای نظریه گراف برای یادگیری ماشین: پیاده‌سازی ماتریس لاپلاسین، الگوریتم‌های پیمایش، خوشه‌بندی طیفی و انتقال پیام در GNNها با پایتون.
- فرایندهای تصادفی در هوش مصنوعی: از گشت تصادفی تا مدل‌های دیفیوژنبررسی ریاضیات فرایندهای تصادفی، زنجیره‌های مارکوف، دینامیک لانژون و ارتباط عمیق آن‌ها با مدل‌های زبانی و دیفیوژن همراه با پیاده‌سازی پایتون.