فاز 15
سیستم‌های خودمختار
ایجنت‌هایی که بدون دخالت انسان و به‌شکل امن کار می‌کنند.
- 22 درس
- حدود 20 ساعت
- گذار از چت‌بات‌ها به ایجنت‌های با افق زمانی طولانیتفاوت بنیادین چت‌بات‌های تک‌نوبتی با ایجنت‌های خودگردانی که ساعت‌ها مداوم اجرا می‌شوند و چالش‌های معماری ناشی از آن.
- آموزش روش‌های STaR، V-STaR و Quiet-STaR: استدلال خودآموخته در مدل‌های زبانیبررسی مکانیسم استدلال خودآموخته با STaR، رفع خطای استدلال با اعتبارسنج در V-STaR و تولید افکار درونی با Quiet-STaR در مدل‌های زبانی.
- معماری AlphaEvolve: ترکیب مدل‌های زبانی با الگوریتم‌های تکاملی برای تولید کد بهینهبررسی سازوکار AlphaEvolve دیپ‌مایند؛ ادغام مدل زبانی بزرگ با حلقه‌های تکاملی و ارزیاب‌های قطعی برای بهینه‌سازی الگوریتم‌ها.
- ماشین داروین گودل (DGM): ایجنت‌های خوداصلاح‌گر بی‌پایانماشین داروین گودل با جایگزینی اثبات صوری با تکامل تجربی، به ایجنت‌ها اجازه می‌دهد داربست پایتونی خود را بهبود داده و در SWE-bench جهش کنند.
- سامانه‌ی AI Scientist v2: چرخه‌ی خودکار پژوهش و چالش‌های ارزیابی آنبررسی سامانه‌ی AI Scientist v2: چگونگی اجرای خودکار چرخه‌ی پژوهش علمی، پذیرش در کارگاه، خطاهای تجربی و ضرورت ایزوله‌سازی ساندباکس.
- پژوهش هم‌ترازی خودکار (AAR در Anthropic)سیستم AAR نشان می‌دهد چطور ایجنت‌های مستقل در ساندباکس با لاگ‌های تغییرناپذیر پژوهش‌های هم‌ترازی هوش مصنوعی را سرعت می‌بخشند.
- خودبهبودبخشی بازگشتی: مسابقه قابلیت و هم‌راستاییبررسی خودبهبودبخشی بازگشتی (RSI) به‌مثابه مسئله‌ای مهندسی؛ چالش مسابقه میان رشد قابلیت و کیفیت هم‌راستایی و ریسک‌های حذف انسان از چرخه.
- طراحی حلقه‌های خودبهبودی مهارشدهآشنایی با چهار سازوکار بنیادین مهندسی برای مهار حلقه‌های خودبهبودی هوش مصنوعی و جلوگیری از تضعیف خاموش ارزیاب‌ها و معیارهای ایمنی.
- چشم‌انداز ایجنت‌های کدنویسی خودکار در سال 2026بررسی معماری ایجنت‌های کدنویسی در سال 2026، تفاوت CodeAct با فراخوانی JSON و اهمیت داربست (Scaffold) در حل وظایف دنیای واقعی.
- حالت‌های دسترسی و سطوح خودمختاری در ایجنت‌های هوشمندراهنمای مهندسی سطوح دسترسی در ایجنت‌های خودمختار، نقش مدل‌های طبقه‌بند در Auto Mode و روش‌های کنترل ریسک در اجرای ابزارها.
- ایجنت‌های مرورگر و وظایف وب با افق زمانی طولانیتحلیل معماری ایجنت‌های مرورگر وب، بردارهای حمله ناشی از تزریق غیرمستقیم پرامپت و الگوهای دفاعی تفکیک خواندن و نوشتن در محیط پروداکشن.
- ایجنت‌های پس‌زمینه‌ای بلندمدت: اجرای پایدار و چک‌پوینتینگایجنت‌های افق‌بلند را به جای حلقه‌های شکننده، با الگوی اجرای پایدار (Durable Execution) در برابر کرش و قطعی سرور بیمه کنید.
- سقف تکرار، بودجه‌بندی و مهار هزینه در ایجنت‌های هوش مصنوعیراهکارهای جلوگیری از خطای محروم‌سازی کیف پول (Denial of Wallet) و حلقه‌های پرهزینه در ایجنت‌های هوشمند با پشته مهار هزینه.
- کلید قطع اضطراری، مدارشکن و توکن قناری در ایجنت‌هاکنترل مصرف توکن کافی نیست؛ با کلید قطع اضطراری، مدارشکن و هانی‌توکن جلوی خرابکاری، نشت داده و رفتارهای مخرب ایجنت را بگیرید.
- الگوی پیشنهاد و ثبت قطعی در نظارت انسانی ایجنت‌هاالگوی مدرن نظارت انسانی برای ایجنت‌ها: ذخیره‌سازی پایای پیشنهاد، کلید یکتایی، چک‌لیست پرسش و پاسخ چالشی و اعتبارسنجی پس از اقدام.
- چک‌پوینت‌ها و بازگشت به عقب در ایجنت‌های هوش مصنوعیراهنمای جامع پیاده‌سازی چک‌پوینت، بازیابی اجاره، کلید یکتایی و طرح‌های بازگشت به عقب برای اجرای قابل‌اطمینان ایجنت‌ها.
- هوش مصنوعی قانون‌محور (Constitutional AI) و اولویت لغو قوانینراهنمای هم‌راستاسازی مبتنی بر استدلال با هوش مصنوعی قانون‌محور (Constitutional AI) و مدیریت سلسله‌مراتب چهارسطحی و ممنوعیت‌های سخت‌کدشده در مدل‌ها.
- مدل Llama Guard و طبقه‌بندی ورودی و خروجی در ایجنت‌هابررسی نقش Llama Guard و NeMo Guardrails در فیلتر ورودی و خروجی ایجنت‌ها، تحلیل آسیب‌پذیری‌ها مانند قاچاق اموجی، و پیاده‌سازی دفاع در عمق.
- سیاست مقیاس‌پذیری مسئولانه نسخه 3.0 شرکت Anthropicتحلیل موشکافانه نسخه 3.0 سند سیاست مقیاس‌پذیری Anthropic، دلایل حذف بند توقف آموزش، معرفی آستانه AI R&D-4 و نحوه ارزیابی ایمنی مدل‌های مرزی.
- چارچوب آمادگی OpenAI و چارچوب ایمنی پیشرو DeepMindبررسی تطبیقی چارچوب آمادگی OpenAI و چارچوب ایمنی پیشرو DeepMind، نحوه دسته‌بندی ریسک‌های خودمختاری و تفاوت‌های عملیاتی آن‌ها در استقرار مدل‌ها.
- افق زمانی در METR و ارزیابی خارجی توانمندی مدل‌هاآشنایی با بنچمارک Time Horizon سازمان METR، متدولوژی برازش منحنی توانمندی ایجنت‌ها و چرایی تلقی افق زمانی به عنوان یک حد بالا در پروداکشن.
- آشنایی با CAIS، CAISI و ریسک‌های در مقیاس اجتماعی هوش مصنوعیبررسی چارچوب چهارگانه‌ی ریسک CAIS، تفاوت آن با نهاد دولتی CAISI و نحوه‌ی مدیریت خطرات فاجعه‌بار هوش مصنوعی در مقیاس اجتماعی.