فاز 10
مدل‌های زبانی بزرگ از صفر
مدل‌های زبانی بزرگ را بسازید، آموزش دهید و بفهمید.
- 24 درس
- حدود 33 ساعت
- آشنایی با الگوریتم‌های توکنایزر: BPE، WordPiece و SentencePieceپیاده‌سازی صفر تا صد الگوریتم‌های توکن‌سازی BPE، WordPiece و SentencePiece و تحلیل هزینه‌ی پردازشی توکن‌ها در مدل‌های زبانی بزرگ.
- ساخت توکن‌ساز از صفر: پیاده‌سازی گام‌به‌گام BPE در پایتونپیاده‌سازی پایپ‌لاین کامل توکن‌ساز BPE در سطح بایت با پایتون؛ مدیریت متن‌های چندزبانه، رجکس پیش‌توکن‌سازی و توکن‌های ویژه.
- پایپ‌لاین داده برای پیش‌آموزش مدل‌های زبانی بزرگراهنمای گام‌به‌گام طراحی پایپ‌لاین‌های مقیاس‌پذیر پیش‌آموزش LLM شامل پاک‌سازی، حذف تکرار با MinHash و بسته‌بندی توکن‌ها بدون اتلاف حافظه.
- آموزش پیش‌آموزش یک مینی جی‌پی‌تی (124M پارامتر)پیاده‌سازی صفر تا صد معماری GPT-2 با 124 میلیون پارامتر در NumPy و درک عمیق محاسبات پیش‌آموزش، اتنشن و تولید متن خودبازگشتی.
- آموزش توزیع‌شده مدل‌های زبانی: FSDP، DeepSpeed و موازی‌سازی سه‌بعدیراهنمای جامع روش‌های موازی‌سازی داده، تنسور، پایپ‌لاین و FSDP برای جا دادن و آموزش مدل‌های زبانی میلیاردی فراتر از حافظه یک کارت گرافیک.
- آموزش گام‌به‌گام فاین‌تیونینگ نظارت‌شده (SFT) و ساخت مدل دستورپذیرآموزش عملی فاین‌تیونینگ نظارت‌شده (SFT) برای تبدیل مدل پایه به دستیار هوشمند با پیاده‌سازی ماسک زیان و بررسی فراموشی فاجعه‌بار.
- آموزش گام‌به‌گام RLHF با ساخت مدل پاداش و PPOآموزش پیاده‌سازی RLHF با ساخت مدل پاداش، زیان Bradley-Terry و حلقه‌ی PPO به همراه جریمه‌ی واگرایی KL برای همسوسازی مدل‌های زبانی.
- آموزش DPO: بهینه‌سازی مستقیم ترجیحات بدون نیاز به مدل پاداشآموزش الگوریتم DPO برای هم‌راستاسازی مستقیم مدل زبانی با جفت‌های ترجیحی؛ بدون نیاز به مدل پاداش مجزا و ناپایداری‌های PPO.
- هوش مصنوعی قانون‌محور (CAI) و الگوریتم GRPO: خودبهبودبخشی در مدل‌های زبانیپیاده‌سازی گام‌به‌گام هوش مصنوعی قانون‌محور (CAI) و الگوریتم GRPO در DeepSeek برای خودبهبودبخشی و هم‌ترازی استدلال بدون وابستگی به داده‌های گران‌قیمت انسانی.
- ارزیابی مدل‌های زبانی: از بنچمارک تا بستر تست اختصاصیراهنمای جامع پیاده‌سازی ارزیابی‌های سفارشی برای مدل‌های زبانی با استفاده از معیارهای F1، پرپلکسیتی، سیستم ELO و الگوی LLM-as-judge.
- کوانتیزه‌سازی مدل‌های زبانی: کاهش حجم و اجرای مدل روی سخت‌افزار محدودراهنمای جامع کاهش حجم مدل‌های زبانی بزرگ با تبدیل FP16 به INT8 و INT4 با تکنیک‌های GPTQ ،AWQ و اجرای محلی روی سخت‌افزارهای محدود.
- بهینه‌سازی استنتاج مدل‌های زبانی: از کش KV تا PagedAttentionراهنمای تخصصی بهینه‌سازی استنتاج LLM با تمرکز بر مدیریت حافظه، کش KV، دسته‌بندی پیوسته و PagedAttention جهت کاهش تاخیر و ارتقای نرخ پردازش.
- ساخت پایپ‌لاین کامل LLM: از داده تا سرویس‌دهی نهاییطراحی و پیاده‌سازی داربست مهندسی یک پایپ‌لاین سرتاسری LLM شامل ارکستریتور، قرارداد آرتیفکت‌ها، مانیفست و گیت‌های انتشار.
- کالبدشکافی معماری مدل‌های متن‌باز: از Llama 3 تا DeepSeek-V3راهنمای عملی تحلیل معماری مدل‌های زبانی متن‌باز مدرن و محاسبه‌ی دقیق حافظه و پارامترها از روی فایل کانفیگ.
- دیکودینگ حدسی و EAGLE-3: بهینه‌سازی سرعت استنتاج LLMآموزش تخصصی چرخه‌ی دیکودینگ حدسی و معماری پیشرفته‌ی EAGLE-3 برای افزایش 3 تا 6 برابری سرعت خروجی مدل‌های زبانی بدون افت کیفیت آماری.
- اتنشن تفاضلی در ترنسفورمرها: از مبانی نظری تا پیاده‌سازی DIFF V2بررسی جامع معماری اتنشن تفاضلی (DIFF V2)، نحوه‌ی حذف کف نویز سافت‌مکس در بافت‌های طولانی و پیاده‌سازی گام‌به‌گام آن در پایتون خالص.
- اتنشن تنک درونی (NSA در DeepSeek): مکانیزم، فرمول و پیاده‌سازیآشنایی با معماری Native Sparse Attention در مدل‌های DeepSeek، ترکیب سه شاخه موازی اتنشن و شتاب‌بخشی به پردازش بافت‌های طولانی 64k.
- پیش‌بینی چندتوکنی (MTP): پیاده‌سازی معماری DeepSeek-V3پیاده‌سازی ماژول پیش‌بینی چندتوکنی (MTP) ترتیبی در DeepSeek-V3، محاسبه‌ی توابع زیان مشترک و بازیافت سرها برای دیکودینگ حدسی سریع‌تر.
- موازی‌سازی با الگوریتم DualPipe در مدل‌های زبانی بزرگراهنمای جامع الگوریتم زمان‌بندی دوطرفه DualPipe، نحوه حذف حباب پایپ‌لاین و هم‌پوشانی ارتباطات در آموزش مدل‌های بزرگ MoE مانند DeepSeek-V3.
- کالبدشکافی معماری DeepSeek-V3 و محاسبه‌ی پارامترهابررسی دقیق معماری DeepSeek-V3، تحلیل کانفیگ مدل، سازوکار MLA و محاسبه‌ی نسبت پارامترهای فعال به کل پارامترها.
- معماری Jamba و ترکیب ترنسفورمر با Mamba: راهنمای مدل‌های هیبریدیبررسی معماری هیبریدی Jamba با ترکیب Mamba و ترنسفورمر، کاهش 8 برابری حافظه کش KV و نحوه پردازش پنجره زمینه‌ی 256k روی یک پردازنده‌ی گرافیکی 80GB.
- اینفرنس به شیوه !Hogwild: موازی‌سازی مدل‌های زبانی با حافظه کش مشترکآشنایی با متد تجربی Hogwild برای اجرای هم‌زمان چند نمونه LLM روی یک KV Cache مشترک و شبیه‌سازی آن با پایتون.
- دیکودینگ حدسی و معماری EAGLE: شتاب‌دهی استنتاج در مدل‌های زبانیراهنمای جامع افزایش سرعت استنتاج مدل‌های زبانی با روش دیکودینگ حدسی (Speculative Decoding) و معماری درختی EAGLE بدون افت کیفیت خروجی.
- چک‌پوینت‌گذاری گرادیان و بازسازی اکتیویشن در ترنسفورمرهاراهنمای مهندسی کاهش حافظه VRAM در آموزش مدل‌های زبانی با چک‌پوینت‌گذاری گرادیان (Gradient Checkpointing) و بازسازی گزینشی اکتیویشن‌ها.