فاز 18 · درس 30

خطرات کاربرد دوگانه: ارزیابی جهش توانمندی در حوزه‌های سایبری، زیستی، شیمیایی و هسته‌ای

نوع
مفهومی
زمان
حدود 75 دقیقه
زبان‌ها
none
پیش‌نیاز
فاز 18 · درس 17 (WMDP)، فاز 18 · درس 18 (چارچوب‌های ایمنی)، فاز 18 · درس 28 (زیست‌بوم)
نمایی از ترازوی سنجش امنیت با نمادهای میکروسکوپ آزمایشگاهی، خطوط کدنویسی دیجیتال و سپرهای ایمنی
فهرست مطالب
  1. اهداف یادگیری
  2. صورت مسئله
  3. مفاهیم کلیدی
  4. روایت افزایش توان زیستی/شیمیایی
  5. فرسایش شکاف اجرایی در حوزه‌ی شیمیایی/زیستی
  6. افزایش توان سایبری (نوامبر 2025)
  7. هسته‌ای
  8. مزیت نسبی مبتدی در برابر توانمندی مطلق متخصص
  9. ارزیابی مقایسه‌ای حوزه‌ها
  10. جایگاه این درس در فاز 18
  11. پیاده‌سازی عملی
  12. تحویل پروژه
  13. تمرین‌ها
  14. اصطلاحات کلیدی
  15. برای مطالعه‌ی بیشتر

پیشرفت سریع مدل‌های مرزی هوش مصنوعی مرز میان کاربردهای سازنده و مخرب را باریک‌تر از همیشه کرده است. اگر تا دیروز فرض بر این بود که دسترسی صرف به متن و اطلاعات تئوریک نمی‌تواند جایگزین مهارت‌های پیچیده‌ی آزمایشگاهی یا اجرای زنجیره‌ی حملات پیشرفته‌ی سایبری شود، گزارش‌های منتشرشده در اواخر سال 2025 این مفروضات را دگرگون کردند.

درک سازوکار «کاربرد دوگانه» (Dual-Use) و نحوه‌ی ارزیابی افزایش توانمندی مهاجمان برای توسعه‌دهندگان، معماران امنیت و پژوهشگران هوش مصنوعی ضروری است. این درس نشان می‌دهد چگونه اضافه شدن قابلیت‌های چندوجهی نظیر بینایی ماشین و عامل‌های خودمختار کدنویسی توانسته‌اند شکاف مهارتی میان کاربران مبتدی و متخصصان را از بین ببرند و چهارچوب‌های ایمنی پیشین را با چالش مواجه کنند.

نمای کلی کاربرد دوگانه (Dual-use) در سال 2026، حوزه به حوزه. زیستی/شیمیایی: درس 17 به WMDP می‌پردازد؛ آزمون دستیابی به سلاح زیستی Anthropic (افزایش توان 2.53 برابری) و هشدار آوریل 2025 نسخه‌ی 2 چارچوب آمادگی (Preparedness Framework) شرکت OpenAI («در آستانه‌ی کمک معنادار به افراد مبتدی برای ایجاد تهدیدهای زیستی شناخته‌شده») نقطه‌ی عطف این مسیر را نشان می‌دهند. سایبری (گزارش نوامبر 2025 شرکت Anthropic): بازیگران دولتی وابسته به چین از ابزار کدنویسی ایجنتی Claude برای خودکارسازی تا 90% یک کارزار حمله‌ی سایبری استفاده کردند، به‌طوری که دخالت انسان تنها در 4 تا 6 مرحله نیاز بود؛ نسخه‌ی آزمایشی (پایلوت) «دسترسی مطمئن» (Trusted access) شرکت OpenAI به سازمان‌های امنیتی تأییدشده دسترسی به قابلیت‌ها را برای کارهای دفاعی با کاربرد دوگانه می‌دهد. فرسایش شکاف اجرایی در حوزه‌ی شیمیایی/زیستی: دفاع سنتی این بود که «دسترسیِ صرف به اطلاعات کافی نیست». مدل‌های مرزی (Frontier Models) مجهز به بینایی ماشین (GPT-5.2، Gemini 3 Pro، Claude Opus 4.5، Grok 4.1) می‌توانند ویدیوی آزمایشگاه تر (Wet-lab) را بررسی کنند و اصلاحات بلادرنگ ارائه دهند. دسامبر 2025: شرکت OpenAI نشان داد که مدل GPT-5 با تکرار روی آزمایش‌های آزمایشگاه تر و از طریق بهینه‌سازی پروتکل مبتنی بر هوش مصنوعی، به بهبود کارایی 79 برابری می‌رسد. الگوی مبتدی در برابر متخصص: هوش مصنوعی مزیت نسبی بیشتری به مبتدیان می‌دهد، اما توانمندی مطلق بالاتری در اختیار متخصصان می‌گذارد.

اهداف یادگیری

  • روند تحولات افزایش توان زیستی در بازه‌ی 2024–2025 را شرح دهید: «افزایش جزئی» -> «در آستانه» -> «افزایش توان 2.53 برابری، ناکافی برای رد کردن سطح ASL-3».
  • گزارش سایبری نوامبر 2025 شرکت Anthropic را توضیح دهید: خودکارسازی تا 90% یک کارزار حمله‌ی سایبری توسط بازیگران وابسته به چین.
  • فرسایش شکاف اجرایی در حوزه‌ی شیمیایی/زیستی را شرح دهید: اصلاح بلادرنگ آزمایش‌های آزمایشگاه تر با استفاده از مدل‌های مجهز به بینایی ماشین.
  • عدم تقارن میان «مزیت نسبی مبتدی» و «توانمندی مطلق متخصص» و پیامد آن برای تدوین پرونده‌ی ایمنی (Safety case) را بیان کنید.

صورت مسئله

درس 17 روش‌شناسی سنجش بود. درس 30 وضعیت این سنجش را در سال 2026 بررسی می‌کند. تصویر کلی بین سال 2024 و اواخر 2025 به‌طور ملموسی دگرگون شد: سه حوزه از چهار حوزه از آستانه‌ای عبور کردند که چارچوب‌های سال 2024 پیش‌بینی نکرده بودند.

مفاهیم کلیدی

روایت افزایش توان زیستی/شیمیایی

سه فاز اصلی (برای حفظ انسجام بحث، برگرفته از درس 17):

  1. «افزایش جزئی» در سال 2024. ارزیابی‌های اولیه‌ی چارچوب آمادگی و خط‌مشی مقیاس‌پذیری مسئولانه (RSP) مزیت اندک مبتدیان را در مقایسه با جستجوی اینترنتی گزارش کردند.
  2. «در آستانه» در آوریل 2025. نسخه‌ی 2 چارچوب آمادگی OpenAI هشدار داد که مدل‌ها «در آستانه‌ی کمک معنادار به افراد مبتدی برای ایجاد تهدیدهای زیستی شناخته‌شده» قرار دارند.
  3. آزمون دستیابی به سلاح زیستی Anthropic در سال 2025. یک مطالعه‌ی کنترل‌شده روی افراد مبتدی؛ افزایش توان 2.53 برابری در وظایف فاز دستیابی؛ ناکافی برای رد کردن معیارهای سطح ایمنی ASL-3.

این دگرگونی کیفی است: حتی بدون جهشی چشمگیر در توانمندی مدل، گزاره‌ی «افزایش جزئی» ظرف هجده ماه به «توانمندسازی محتمل» تبدیل شد.

فرسایش شکاف اجرایی در حوزه‌ی شیمیایی/زیستی

دفاع سنتی: اطلاعات لازم است اما کافی نیست؛ مهارت اجرای پروتکل جلوی افراد مبتدی را می‌گیرد. مدل‌های مرزی سال 2025 مجهز به بینایی ماشین این سد دفاعی را تا حدی شکسته‌اند:

  • اصلاح بلادرنگ پروتکل. مدل‌های GPT-5.2، Gemini 3 Pro، Claude Opus 4.5 و Grok 4.1 می‌توانند ویدیوی آزمایشگاه تر را زیر نظر بگیرند و خطاهای حین کار را گوشزد کنند.
  • نمایش دسامبر 2025 شرکت OpenAI. مدل GPT-5 با تکرار روی آزمایش‌های آزمایشگاه تر و از طریق بهینه‌سازی پروتکل، به بهبود کارایی 79 برابری دست یافت.

پیامد: اتکا به «مهارت اجرایی به‌منزله‌ی سد دفاعی» در حال از بین رفتن است. موانع مربوط به تأمین تجهیزات و تدارکات همچنان پابرجا هستند، اما شکاف دانش ضمنی (Tacit knowledge) مدام باریک‌تر می‌شود.

افزایش توان سایبری (نوامبر 2025)

گزارش نوامبر 2025 شرکت Anthropic: بازیگران دولتی وابسته به چین از ابزار کدنویسی ایجنتی Claude برای خودکارسازی 80 تا 90 درصدی یک کارزار حمله‌ی سایبری استفاده کردند. مداخله‌ی انسانی تنها در 4 تا 6 مرحله نیاز بود.

پیامدها:

  • کدنویسی ایجنتی، جزء سازنده‌ی اصلی در خودکارسازی حمله است. پیش از این، کمک هوش مصنوعی در حوزه‌ی سایبری به تولید قطعه‌کدها محدود می‌شد؛ جریان‌های کاری ایجنتی مراحل شناسایی، نفوذ، پس‌انفجار (Post-exploitation) و استخراج داده را یکپارچه می‌کنند.
  • این 4 تا 6 مرحله‌ی انسانی گلوگاه اصلی هستند؛ ارتقای توانمندی‌های آتی این تعداد را کاهش خواهد داد.
  • کاربرد دوگانه‌ی دفاعی: نسخه‌ی آزمایشی «دسترسی مطمئن» شرکت OpenAI، دسترسی به این توانمندی‌ها را برای مقاصد دفاعی در اختیار سازمان‌های امنیتی تأییدشده (شرکت‌های معتبر پاسخ به رخداد، نهادهای دولتی) می‌گذارد. اگر این پایلوت گسترش یابد، این عدم تقارن در دسترسی به نفع مدافعان تمام می‌شود.

بخش دفاعی این فرایند با خواندن کدهای کامپایل‌شده‌ای آغاز می‌شود که مجاز به تحلیل آن‌ها هستید. مسیر مهندسی معکوس در فاز 13 این مهارت را روی برنامه‌های دست‌ساز خودتان و صرفاً با تحلیل ایستا آموزش می‌دهد: یک ELF reader در درس 13.32، دیس‌اسمبلی در درس 13.33، بالا کشیدن به شبه‌کد در درس 13.34 و دفتر شواهد (Evidence Ledger) برای تفکیک واقعیت‌های مشاهده‌شده از استنباط‌ها در درس 13.35. ابزار تعاملی Inside a Decompiler کل پایپ‌لاین را روی یک تابع نمایش می‌دهد. ایجنتی هم که این کار را انجام می‌دهد به همین دفتر شواهد نیاز دارد؛ زیرا حتی یک دکامپایل با ضریب اطمینان بالا هم ممکن است بر پایه‌ی یک حدس شکل گرفته باشد.

هسته‌ای

حوزه‌ی هسته‌ای در مقایسه با سه حوزه‌ی دیگر تهدیدهای CBRN (شیمیایی، زیستی، پرتوی و هسته‌ای) کمترین تحلیل عمومی را دارد. مدل تهدید در اینجا متفاوت است: چالش اصلی به تهیه‌ی مواد شکافت‌پذیر مربوط می‌شود، نه اطلاعات. در عمل، افزایش توان اطلاعاتی با هوش مصنوعی مزیت ناچیزی به مبتدیان می‌دهد. هیچ‌کدام از گزارش‌های آزمایشگاه‌های بزرگ در سال‌های 2024 و 2025 حاکی از رد شدن از آستانه‌ای ویژه در حوزه‌ی هسته‌ای نیست.

مزیت نسبی مبتدی در برابر توانمندی مطلق متخصص

یک الگوی مشترک در هر چهار حوزه دیده می‌شود:

  • افزایش توان نسبی مبتدی. بالا و چندبرابرکننده؛ طبق ارزیابی زیستی سال 2025 شرکت Anthropic، معادل 2.53 برابر.
  • توانمندی مطلق متخصص. سقف توانمندی بسیار بالاست. متخصص بازدهی بسیار بیشتری نسبت به مبتدی از مدل می‌گیرد؛ زیرا می‌داند چه بپرسد و چطور خروجی‌ها را تفسیر کند.

پیامد برای تدوین پرونده‌های ایمنی: مهار افزایش توان مبتدیان به‌تنهایی (از طریق فیلترهای ورودی، امتناع مدل، یا ایجاد ابهام) برای مهار توانمندی مطلق متخصصان کافی نیست. تمهیدات دیگری نیز الزامی است: مقاوم‌سازی در برابر استخراج ورودی (Elicitation)، فراموشی توانمندی‌ها (درس 17)، و پروتکل‌های کنترلی (درس 10).

ارزیابی مقایسه‌ای حوزه‌ها

حوزه 2024 2025 نقطه‌ی عطف
زیستی افزایش جزئی افزایش توان 2.53 برابری، نزدیک شدن به ASL-3 خودکارسازی فاز دستیابی
شیمیایی افزایش جزئی فرسایش شکاف اجرایی با بینایی ماشین اصلاح بلادرنگ در آزمایشگاه تر
سایبری دستیار کدنویسی خودکارسازی 80 تا 90 درصدی کارزار کدنویسی ایجنتی
هسته‌ای محدود محدود پابرجا ماندن گلوگاه دسترسی به مواد

سه حوزه از آستانه‌ها عبور کردند. یکی از آن‌ها همچنان با موانع غیر اطلاعاتی مهار شده است.

جایگاه این درس در فاز 18

درس 30 پروژه‌ی پایانی و نقطه‌ی اوج است: تصویر کنونی از کاربرد دوگانه که تک‌تک درس‌های پیشین نقشی در سنجش، مهار یا حاکمیت بر آن داشته‌اند. درس‌های 17 و 18 روش‌های سنجش و چارچوب‌ها را معرفی کردند؛ درس‌های 12 تا 16 ابزارهای ارزیابی را آوردند؛ درس‌های 24 و 25 لایه‌ی مقررات و افشا را بررسی کردند؛ و درس 28 زیست‌بوم پژوهشی را پوشش داد. درس 30 نقطه‌ای است که تمام شواهد در آن گرد هم می‌آیند.

عدم تقارن ارتقای توانمندینسبت مبتدی · دسترسی متخصص
UPLIFT ASYMMETRYAI assistance multiplies novice capability the most, the bioweapon-acquisition trial measured 2.53x on acquisition tasks, but the novice still ends far from the line. The expert gains a smaller ratio on a much larger base, and it is the expert bar that crosses the dangerous-capability threshold. Safety cases must handle both ends: relative uplift for novices, absolute reach for experts, while vision models erode the wet-lab execution gap that once backstopped both.توانمندی خطرناکمبتدی2.53x ارتقای نسبیمتخصصنسبت کوچک‌تر، دسترسی مطلق بیشترخاکستری: مهارت خط مبنا · رنگی: کمک هوش مصنوعی
کمک هوش مصنوعی بیشترین ضریب افزایش را به توانمندی افراد مبتدی می‌دهد؛ در آزمایش دستیابی به سلاح‌های بیولوژیکی، ضریب 2.53x برای وظایف دستیابی ثبت شد، اما فرد مبتدی همچنان فاصله زیادی تا خط خطر دارد. فرد متخصص ضریب کوچک‌تری روی یک پایه‌ی مهارتی بسیار بزرگ‌تر دریافت می‌کند، و در واقع این ستون متخصص است که از آستانه توانمندی خطرناک عبور می‌کند. پرونده‌های ایمنی باید هر دو سر طیف را مدیریت کنند: ارتقای نسبی برای مبتدیان و دسترسی مطلق برای متخصصان، در حالی که مدل‌های بینایی شکاف اجرایی در آزمایشگاه‌های بیولوژیکی را که پیش‌تر مانعی برای هر دو گروه بود از میان برمی‌دارند.

پیاده‌سازی عملی

این درس کد ندارد. گزارش سایبری نوامبر 2025 شرکت Anthropic، به‌روزرسانی آوریل 2025 چارچوب آمادگی نسخه‌ی 2 شرکت OpenAI، و جمع‌بندی سال 2025 شورای خطرات استراتژیک درباره‌ی پیوند هوش مصنوعی و زیست‌شناسی را مطالعه کنید.

تحویل پروژه

خروجی این درس فایل outputs/skill-dual-use-triage.md است. این مستند با دریافت هر ادعای توانمندی یا گزارش رخداد در سال 2026، آن را در میان چهار حوزه دسته‌بندی و اولویت‌سنجی (تریاژ) می‌کند و مشخص می‌سازد که آیا این ادعا بر افزایش توان نسبی مبتدی، توانمندی مطلق متخصص، یا هر دو اثر می‌گذارد.

تمرین‌ها

  1. گزارش سایبری نوامبر 2025 شرکت Anthropic را بخوانید. این 4 تا 6 مرحله‌ی مداخله‌ی انسانی را فهرست کنید و استدلال بیاورید که در مدل‌های نسل بعد، کدام مرحله زودتر از بقیه خودکار خواهد شد.

  2. شکاف اجرایی در حوزه‌ی شیمیایی/زیستی از طریق بینایی ماشین در حال فرسایش است. ارزیابی‌ای طراحی کنید که افزایش دانش ضمنی را بسنجد، بدون اینکه از مرز قوانین کنترلی صادرات ITAR/EAR فراتر برود.

  3. افزایش توانمندی در حوزه‌ی هسته‌ای ظاهراً با دسترسی به مواد محدود شده است. له و علیه این دیدگاه استدلال کنید که آیا یک جهش آتی در هوش مصنوعی می‌تواند این گلوگاه را جابه‌جا کند یا خیر.

  4. یک پرونده‌ی ایمنی بر اساس رویکرد سه‌ستونی درس 18 برای یک مدل مرزی با توانمندی سایبری تدوین کنید که هم افزایش توان مبتدی و هم متخصص را مهار کند.

  5. یکی از چهار حوزه را انتخاب کنید و بر اساس مسیر کامل اجرای سال‌های 2024 و 2025، پیش‌بینی یک‌پاراگرافی برای سال 2027 بنویسید. شواهدی را که می‌توانند این پیش‌بینی را باطل کنند مشخص کنید.

اصطلاحات کلیدی

اصطلاح برداشتی که رایج است معنای واقعی و دقیق
افزایش توان (Uplift) «هوش مصنوعی به مهاجمان کمک می‌کند» افزایش توانمندی مهاجم که مستقیماً به کمک هوش مصنوعی نسبت داده می‌شود
افزایش توان نسبی مبتدی (Novice-relative uplift) «چندبرابرکننده» میزان کمکی که هوش مصنوعی در مقایسه با وضعیت فعلی به یک فرد مبتدی می‌رساند
توانمندی مطلق متخصص (Expert-absolute capability) «سقف توانایی» بیشترین توانمندی‌ای که یک فرد متخصص می‌تواند از مدل استخراج کند
شکاف اجرایی (Execution gap) «عمل در برابر دانش» دفاع سنتی: مانع شدن مهارت ضمنی کار در آزمایشگاه تر برای افراد مبتدی
کدنویسی ایجنتی (Agentic coding) «حملات خودمختار» اجرای خودمختار وظایف چندمرحله‌ای در حوزه‌ی سایبری
فاز دستیابی (Acquisition phase) «مراحل پیش از سنتز» مراحل تدارکات، تأمین تجهیزات و اخذ مجوزهای لازم برای یک تهدید زیستی
دسترسی مطمئن (Trusted access) «نسخه‌ی آزمایشی ویژه‌ی مدافعان» برنامه‌ی سال 2025 شرکت OpenAI برای ارائه‌ی دسترسی به قابلیت‌ها به مدافعان تأییدشده

برای مطالعه‌ی بیشتر

خودآزمایی

به سؤال‌ها جواب بدهید تا ببینید چقدر از درس در ذهنتان مانده است.

  1. پیش از درسروایت پیرامون ارتقای توانمندی در حوزه بیولوژیک در سال‌های 2024-2025 چگونه تحول یافت؟
  2. حین درسگزارش نوامبر 2025 انتروپیک درباره تهدیدات سایبری چه یافته‌ای داشت؟
  3. حین درسمدل‌های مرزی مجهز به بینایی چگونه در حال از بین بردن شکاف اجرایی در حوزه‌های شیمیایی/زیستی هستند؟
  4. حین درسچرا ارتقای توانمندی در حوزه هسته‌ای نسبت به حوزه‌های زیستی/شیمیایی/سایبری محدود باقی مانده است؟
  5. پس از درسعدم تقارن میان «ارتقای نسبی مبتدی» در برابر «دسترسی مطلق متخصص» چه پیامی برای پرونده‌های ایمنی دارد؟
  6. پس از درسنسخه‌ی آزمایشی (پایلوت) «دسترسی مطمئن» (Trusted Access) شرکت OpenAI در زمینه کاربرد دومنظوره سایبری چیست؟

سؤالات متداول

منظور از شکاف اجرایی (Execution Gap) در زیست‌شناسی و شیمی چیست و چگونه در حال فرسایش است؟

شکاف اجرایی بیانگر این فرض سنتی بود که دانستن اطلاعات ساخت یک عامل خطرناک کافی نیست و مهارت‌های ضمنی کار در آزمایشگاه تر مانع اجرای آن توسط مبتدیان می‌شود. اما ظهور مدل‌های چندوجهی مجهز به بینایی ماشین که می‌توانند ویدیوی آزمایشگاه را تحلیل کرده و در لحظه پروتکل‌ها را اصلاح کنند، این مانع را تضعیف کرده است.

تفاوت افزایش توان نسبی مبتدی و توانمندی مطلق متخصص چیست؟

هوش مصنوعی به افراد مبتدی مزیت نسبی چندبرابرکننده می‌دهد و کارهای ناشناخته را برایشان ممکن می‌سازد؛ در حالی که برای متخصصان سقف توانمندی را بالا می‌برد تا خروجی‌های بسیار پیشرفته‌تر استخراج کنند. بنابراین روش‌های مسدودسازی ساده‌ی ورودی برای محافظت در برابر کارشناسان کارایی ندارند.

چرا ارزیابی خطرات هسته‌ای با حوزه‌های سایبری یا زیستی تفاوت دارد؟

چون در حوزه‌ی هسته‌ای گلوگاه اصلی دستیابی فیزیکی به مواد شکافت‌پذیر است و نه فقر اطلاعات. از این رو مدل‌های هوش مصنوعی با ارائه‌ی اطلاعات تئوریک جهش عملیاتی معناداری برای مبتدیان ایجاد نمی‌کنند.

ما رو توی گوگل بیشتر ببین

با افزودن نکست ادمین به «منابع ترجیحی» گوگل، درس‌ها و مطالب ما را در بخش اخبار برتر جستجو بیشتر می‌بینید.