فاز 11
مهندسی LLM
LLMها را در اپلیکیشن‌های واقعی و تولیدی به کار بگیرید.
- 17 درس
- حدود 21 ساعت
- مهندسی پرامپت: الگوها و تکنیک‌های هدایت دقیق مدل‌های زبانیتبدیل درخواست‌های مبهم به دستورالعمل‌های دقیق مهندسی‌شده با الگوهای 10 گانه پرامپت، تنظیم نمونه‌برداری و مقایسه عملکرد بین مدل‌های مطرح زبانی.
- استراتژی‌های پیشرفته پرامپت: Few-Shot، زنجیره تفکر و درخت تفکرتکنیک‌های پیشرفته پرامپت شامل چند نمونه، زنجیره تفکر (CoT)، رای‌گیری خودسازگاری و درخت تفکر (ToT) برای ارتقای چشمگیر دقت استدلال مدل‌های زبانی.
- خروجی‌های ساختاریافته در مدل‌های زبانی: از JSON تا دیکود مقیدراهنمای عملی تولید تضمینی خروجی JSON و ساختارهای داده‌ی معتبر از مدل‌های زبانی با استفاده از Pydantic، دیکود مقید و ابزارهای پروداکشن.
- امبدینگ و بازنمایی برداری: راهنمای جامع جستجوی معناییراهنمای عمیق امبدینگ‌ها، الگوریتم‌های شباهت برداری، قطعه‌بندی متن و ساخت پایپ‌لاین جست‌وجوی معنایی مقیاس‌پذیر در پایتون.
- مهندسی بافتار: مدیریت پنجره، بودجه‌بندی توکن، حافظه و بازیابیراهنمای عملی مهندسی بافتار در مدل‌های زبانی: مدیریت بهینه‌ی پنجره، بودجه‌بندی توکن‌ها، حل چالش گم شدن در میانه و سرهم‌بندی پویای ورودی.
- معماری RAG چیست؟ راهنمای کامل ساخت پایپ‌لاین بازیابی و تولیدآموزش گام‌به‌گام معماری RAG، مقایسه با فاین‌تیونینگ و پیاده‌سازی کامل پایپ‌لاین قطعه‌بندی، امبدینگ، دیتابیس برداری و تولید پاسخ.
- راهنمای جامع RAG پیشرفته: جست‌وجوی ترکیبی، بازرتبه‌بندی و قطعه‌بندی هوشمندارتقای سیستم‌های RAG با ترکیب جست‌وجوی کلیدواژه‌ای BM25، امبدینگ معنایی، مدل‌های بازرتبه‌بندی کراس‌ان‌کودر و استراتژی والد-فرزند.
- آموزش فاین‌تیونینگ با LoRA و QLoRA از صفر تا استقرارفاین‌تیونینگ مدل‌های بزرگ با متدهای LoRA و QLoRA؛ آموزش کمتر از 1% پارامترها و کاهش مصرف حافظه‌ی گرافیکی از 56GB به 6GB بدون افت کیفیت.
- فراخوانی تابع و استفاده از ابزار در مدل‌های زبانیمدل‌های زبانی فقط متن تولید می‌کنند؛ فراخوانی تابع (Function Calling) مانند سیستم عصبی، فکر مدل را به کدهای اجرایی دنیای واقعی متصل می‌کند.
- ارزیابی و تست اپلیکیشن‌های مدل زبانی (LLM Evals)راهنمای جامع ارزیابی سیستماتیک اپلیکیشن‌های LLM با داوری خودکار، تست‌های پسرفت آماری و اتصال به پایپ‌لاین CI/CD برای پیشگیری از افت کیفیت پرامپت‌ها.
- کش، محدودیت نرخ درخواست و بهینه‌سازی هزینه‌های مدل‌های زبانیراهکارهای عملی کاهش هزینه‌های API هوش مصنوعی با کش معنایی، الگوریتم سطل توکن، مسیریابی هوشمند مدل‌ها و ابزارهای پرامپت کشینگ.
- گاردریل‌ها، امنیت و فیلتر محتوا در مدل‌های زبانی (LLM)راهنمای جامع پیاده‌سازی دفاع چندلایه و گاردریل‌های ورودی و خروجی برای ایمن‌سازی برنامه‌های LLM در برابر نشت داده و تزریق پرامپت.
- ساخت اپلیکیشن LLM آماده پروداکشن: معماری، استریمینگ و تاب‌آورییکپارچه‌سازی تمام اجزای مدل‌های زبانی از پرامپت و RAG تا گاردریل، کش معنایی، مدیریت خطا و استریمینگ در قالب یک سرویس آماده پروداکشن با FastAPI.
- پروتکل کانتکست مدل (MCP): معماری و پیاده‌سازی بی‌وضعیتآموزش گام‌به‌گام پیاده‌سازی پروتکل MCP با استاندارد بی‌وضعیت، ساخت متدهای کشف قابلیت‌ها، ابزارها، منابع و ارسال درخواست‌های استاندارد JSON-RPC.
- کش کردن پرامپت و کانتکست: کاهش چشمگیر هزینه و تاخیر در LLMهابا استفاده از قابلیت پرامپت کشینگ در Anthropic، OpenAI و Gemini، هزینه‌ی توکن‌های ورودی تکراری را تا 90% و تاخیر اولین توکن را تا 85% کاهش دهید.
- ماشین وضعیت ایجنت‌ها: گراف‌ها، گره‌ها و چک‌پوینت‌ها در LangGraphتبدیل حلقه‌های ساده‌ی ReAct به گراف‌های کنترل‌پذیر با قابلیت چک‌پوینت، وقفه برای تأیید انسان و سفر در زمان با استفاده از LangGraph.
- مقایسه فریم‌ورک‌های ایجنت: ارکستراسیون بر پایه گراف، نقش و چتراهنمای مقایسه و انتخاب فریم‌ورک‌های ایجنت هوش مصنوعی (LangGraph، CrewAI، AutoGen و Agno) بر مبنای ساختار مسئله، مدیریت وضعیت و انشعاب.