چارچوب‌های حاکمیت و ایمنی مدل‌های پیشرو (RSP، PF و FSF)

مدل‌های زبانی بزرگ از مرحله چت‌بات‌های ساده فراتر رفته و قابلیت‌هایی با پتانسیل سوءاستفاده‌های خطرناک در حوزه‌های سایبری، زیستی و استدلال مستقل پیدا کرده‌اند. وقتی ابعاد یک مدل به مقیاس مرز دانش (frontier) می‌رسد، انتشار و حتی آموزش آن بدون سازوکار نظارتی روشن، ریسک‌های سیستمی جبران‌ناپذیری ایجاد می‌کند. برای برنامه‌نویسان و پژوهشگران هوش مصنوعی، شناخت این سازوکارها دیگر صرفاً بحثی فلسفی نیست؛ این قوانین مستقیماً روی دسترسی‌ها، قابلیت‌های مدل‌های منتشرشده و روندهای مهندسی محصول تأثیر می‌گذارند.

سه غول هوش مصنوعی جهان یعنی Anthropic، OpenAI و Google DeepMind، چارچوب‌های حاکمیت داخلی خود را تدوین کرده‌اند: «خط‌مشی مقیاس‌پذیری مسئولانه» (RSP)، «چارچوب آمادگی» (PF) و «چارچوب ایمنی پیشرو» (FSF). این اسناد مشخص می‌کنند یک مدل در چه سطحی از توانمندی به تدابیر حفاظتی سخت‌گیرانه‌تر نیاز دارد، چه زمانی آموزش یا عرضه باید متوقف شود و آزمایشگاه‌ها چگونه «پرونده ایمنی» (Safety Case) تدوین می‌کنند.

در این درس ساختار این سه چارچوب، معیارهای پنج‌گانه ردیابی قابلیت‌ها، سطوح چندگانه ایمنی، بند جنجالی «تعدیل رقابتی» و ستون‌های سه‌گانه پرونده‌های ایمنی را به‌طور تطبیقی بررسی می‌کنیم تا تصویر روشنی از حاکمیت صنعتی مدل‌های پیشرو به دست آورید.

سه چارچوب از آزمایشگاه‌های بزرگ، ساختار حاکمیت صنعتی بر قابلیت‌های پیشرو (frontier capability) را در سال 2026 تعیین می‌کنند. «خط‌مشی مقیاس‌پذیری مسئولانه» آنتروپیک (نسخه 3.0، فوریه 2026) ساختار چندسطحی سطوح ایمنی هوش مصنوعی (از ASL-1 تا +ASL-5) را با الگوبرداری از سطوح ایمنی زیستی معرفی می‌کند؛ سطحی که ASL-3 آن در مه 2025 برای مدل‌های مرتبط با CBRN (حوادث شیمیایی، زیستی، پرتوی و هسته‌ای) فعال شد. نسخه دوم «چارچوب آمادگی» OpenAI (آوریل 2025) پنج معیار برای قابلیت‌های تحت‌نظر مشخص می‌کند و «گزارش‌های قابلیت‌ها» را از «گزارش‌های تدابیر حفاظتی» جدا می‌سازد. نسخه 3.0 «چارچوب ایمنی پیشرو» دیپ‌مایند (سپتامبر 2025) سطوح قابلیت‌های بحرانی (CCLs) را معرفی می‌کند که شامل یک CCL جدید برای «دستکاری مخرب» (Harmful Manipulation) است. هر سه چارچوب اکنون شامل بندهای تعدیل رقابتی هستند که در صورت عرضه مدل توسط آزمایشگاه‌های همتا بدون تدابیر حفاظتی مشابه، اجازه تعویق الزامات را می‌دهند. همگرایی بین‌آزمایشگاهی همچنان ساختاری است، نه واژگانی: «آستانه‌های قابلیت» (Capability Thresholds)، «آستانه‌های قابلیت بالا» (High Capability thresholds) و «سطوح قابلیت‌های بحرانی» ساختارهای مفهومی هم‌ارزی را نشان می‌دهند.

اهداف یادگیری

• ساختار سطوح ASL آنتروپیک و عامل فعال‌سازی ASL-3 را شرح دهید.
• پنج معیار نسخه دوم چارچوب آمادگی OpenAI برای قابلیت‌های تحت‌نظر را نام ببرید.
• ساختار سطوح قابلیت‌های بحرانی DeepMind و CCL دستکاری مخرب را توصیف کنید.
• بندهای تعدیل رقابتی و اهمیت آن‌ها را در دینامیک مسابقه رقابتی توضیح دهید.
• پرونده ایمنی (safety case) را تعریف کنید و ساختار سه‌ستونی آن (پایش، ناخوانایی، ناتوانی) را شرح دهید.

صورت مسئله

درس‌های 7 تا 17 نشان دادند که فریبکاری ممکن است، قابلیت‌های دومنظوره وجود دارند و ارزیابی با محدودیت‌هایی روبه‌روست. آزمایشگاهی با یک مدل با قابلیت‌های پیشرو به ساختار حاکمیت داخلی نیاز دارد که:

• آستانه‌های نیاز به تدابیر حفاظتی جدید را مشخص کند؛
• ارزیابی‌های لازم پیش از مقیاس‌بخشی را تعیین کند؛
• ساختار یک پرونده ایمنی را ترسیم کند؛
• مسئله دینامیک مسابقه رقابتی را مدیریت کند (اگر رقبا بدون تدابیر حفاظتی محصول را عرضه کنند، چه باید کرد؟).

این سه چارچوب 2025-2026 پیشرفته‌ترین ابزارهای موجودند؛ ناقص و در حال تحول‌اند، اما آن‌قدر بین آزمایشگاه‌ها همسو شده‌اند که پرسش اصلی حاکمیت اکنون این است که آیا این چارچوب‌ها کفایت می‌کنند یا خیر، نه اینکه اصلاً وجود دارند یا نه.

مفاهیم کلیدی

خط‌مشی مقیاس‌پذیری مسئولانه Anthropic، نسخه 3.0 (فوریه 2026)

ساختار ASL:

• سطح ASL-1: مدل پیشرو نیست (ذیل خط مبنای ضعیف‌تر از پیشرو قرار می‌گیرد).
• سطح ASL-2: خط مبنای فعلی مدل‌های پیشرو؛ همراه با تدابیر حفاظتی معمول مستقر می‌شود.
• سطح ASL-3: ریسک بسیار بالاتری از سوءاستفاده فاجعه‌بار؛ قابلیت‌های مرتبط با CBRN. در مه 2025 فعال شد.
• سطح ASL-4: عبور از آستانه تحقیق و توسعه هوش مصنوعی نوع 2 (AI R&D-2)؛ مدل‌هایی که می‌توانند تحقیقات مقدماتی هوش مصنوعی را خودکار کنند.
• سطح +ASL-5: تحقیق و توسعه پیشرفته هوش مصنوعی؛ مدل‌هایی که شتاب چشمگیری به مقیاس‌بخشی مؤثر می‌دهند.

تازه‌های نسخه 3.0:

• نقشه‌های راه ایمنی مرزی (به شکل عمومی با حذف بخش‌های حساس).
• گزارش‌های ریسک (فصلی، برخی با بازبینی خارجی).
• تفکیک تحقیق و توسعه هوش مصنوعی به AI R&D-2 و AI R&D-4.
• پس از عبور از AI R&D-4، ارائه یک پرونده ایمنی ایجابی الزامی است که ریسک‌های ناهماهنگیِ ناشی از پیگیری اهداف ناهماهنگ توسط مدل‌ها را مشخص کند.

چارچوب آمادگی OpenAI، نسخه 2 (15 آوریل 2025)

پنج معیار برای قابلیت‌های تحت‌نظر:

• محتمل (Plausible): مدل تهدید معقولی برای آن وجود دارد.
• قابل‌اندازه‌گیری (Measurable): ارزیابی تجربی آن ممکن است.
• شدید (Severe): آسیب ناشی از آن بزرگ است.
• کاملاً جدید (Net-new): مقیاس‌یافته‌ی یک ریسک از پیش موجود نیست.
• آنی یا جبران‌ناپذیر (Instantaneous-or-irremediable): آسیب سریع رخ می‌دهد یا جبران آن ناممکن است.

قابلیت‌هایی که هر پنج معیار را داشته باشند رهگیری می‌شوند؛ سایر قابلیت‌ها خیر.

سایر اجزای ساختاری PF v2:

• تفکیک «گزارش‌های قابلیت‌ها» (آنچه مدل می‌تواند انجام دهد) از «گزارش‌های تدابیر حفاظتی» (کنترل‌های موجود)؛
• بازبینی توسط «گروه مشاور ایمنی» (Safety Advisory Group)؛
• تأیید توسط مدیریت ارشد؛ نظارت توسط «کمیته ایمنی و امنیت» هیئت‌مدیره؛
• «بند تعدیل»: در صورتی که آزمایشگاه دیگری محصول خود را بدون تدابیر حفاظتی مشابه عرضه کند، OpenAI می‌تواند الزامات خود را کاهش دهد.

چارچوب ایمنی پیشرو DeepMind، نسخه 3.0 (سپتامبر 2025)

سطوح قابلیت‌های بحرانی (CCLs) بر اساس حوزه:

• ارتقای سلاح‌های زیستی (Bioweapon Uplift)
• ارتقای سایبری (Cyber Uplift)
• شتاب‌بخشی به تحقیق و توسعه یادگیری ماشین (ML R&D Acceleration)
• دستکاری مخرب (Harmful Manipulation، جدید در نسخه 3.0): مدل‌هایی که می‌توانند باورها یا رفتارها را در موقعیت‌های حساس و پرخطر به میزان چشمگیری تغییر دهند.

نسخه 2.0 (فوریه 2025) بخشی برای هم‌راستایی فریبکارانه (Deceptive Alignment) و سطوح امنیتی بالاتر برای CCLهای تحقیق و توسعه یادگیری ماشین اضافه کرده بود.

همگرایی بین‌آزمایشگاهی

• «آستانه‌های قابلیت» (Capability Thresholds) در Anthropic.
• «سطوح قابلیت‌های بحرانی» (Critical Capability Levels) در DeepMind.
• «آستانه‌های قابلیت بالا» (High Capability thresholds) در OpenAI.

اصطلاح استاندارد صنعتی یکسانی وجود ندارد، اما همگرایی ساختاری برقرار است: هر سه چارچوب، آستانه‌های قابلیت چندسطحی را با معیارهای ارزیابی منتشرشده تعریف می‌کنند. هر سه از سال 2025 به بعد شامل بندهای تعدیل رقابتی هستند.

پرونده‌های ایمنی (Safety Cases)

پرونده ایمنی استدلالی مکتوب است که نشان می‌دهد یک استقرار، تحت بدترین مفروضات، از نظر ایمنی قابل‌قبول است. ساختار استاندارد سه ستون اصلی را هدف می‌گیرد:

• پایش (Monitoring): آیا در صورت بروز رفتار بد، می‌توانیم آن را شناسایی کنیم؟
• ناخوانایی (Illegibility): آیا مدل فاقد توانایی اجرای یک نقشه منسجم برای آسیب‌رسانی است؟
• ناتوانی (Incapability): آیا مدل فاقد قابلیت ایجاد آسیب مورد بحث است؟

پرونده‌های ایمنی مختلف ستون‌های متفاوتی را هدف می‌گیرند. در پرونده CBRN برای سطح ASL-3، ناتوانی (از طریق فراموشی هدایت‌شده یا unlearning) هدف اصلی است. برای هم‌راستایی فریبکارانه، پایش و ناخوانایی اهداف اصلی هستند. برای ارتقای سایبری، هر سه ستون اهمیت دارند.

مسئله دینامیک مسابقه رقابتی

بندهای تعدیل رقابتی چالش‌برانگیزند. منتقدان معتقدند این بندها رقابتی تا رسیدن به بدترین وضعیت (race to the bottom) شکل می‌دهند: اگر هر سه آزمایشگاه در صورت تخطی یک رقیب الزامات خود را کاهش دهند، نقطه تعادل به سمت تخطی جابه‌جا می‌شود. موافقان استدلال می‌کنند که گزینه جایگزین (تدابیر حفاظتی یک‌جانبه) در صورتی که آزمایشگاه خاطی توجه کمتری به ایمنی داشته باشد، نتایج بدتری به بار می‌آورد.

نهادهای AISI بریتانیا، CAISI آمریکا و دفتر هوش مصنوعی اتحادیه اروپا (درس 24) همتایان حاکمیت خارجی این فرایند هستند. چارچوب‌های آزمایشگاه‌ها داوطلبانه‌اند؛ چارچوب‌های رگولاتوری تازه در حال شکل‌گیری هستند.

جایگاه این مبحث در فاز 18

درس‌های 17 و 18 لایه سنجش و حاکمیت را روی تحلیل‌های فریب و تیم قرمز قرار می‌دهند. درس‌های 19 تا 24 رفاه، سوگیری، حریم خصوصی، واترمارک‌گذاری و ساختار رگولاتوری را پوشش می‌دهند. درس 28 زیست‌بوم پژوهشی (MATS، Redwood، Apollo، METR) را که این ارزیابی‌ها را عملیاتی می‌کنند، ترسیم می‌کند.

استفاده از ابزارهای واقعی

این درس کد ندارد. سه منبع اصلی را مطالعه کنید: RSP v3.0، PF v2 و FSF v3.0. ساختار سطوح هر آزمایشگاه را با سایرین تطبیق دهید و برای هر آزمایشگاه یک آستانه پیدا کنید که دیگران تعریف نکرده‌اند.

خروجی این درس

این درس فایل outputs/skill-framework-diff.md را تولید می‌کند. این ابزار با دریافت یک چارچوب ایمنی یا یادداشت انتشار، تعاریف آستانه‌ها، ارزیابی‌های الزامی و ساختار پرونده ایمنی آن را با RSP v3.0، PF v2 و FSF v3.0 مقایسه کرده و شکاف‌های بین‌آزمایشگاهی را مشخص می‌کند.

تمرین‌ها

1. اسناد RSP v3.0، PF v2 و FSF v3.0 را بخوانید. جدولی از آستانه CBRN، آستانه تحقیق و توسعه هوش مصنوعی و ارزیابی‌های الزامی پیش از استقرار در هر آزمایشگاه تهیه کنید.

2. بند تعدیل رقابتی در هر سه چارچوب (2025 به بعد) وجود دارد. یک پاراگراف در دفاع از آن و یک پاراگراف در نقد آن بنویسید. پیش‌فرض کلیدی هر دیدگاه را مشخص کنید.

3. یک پرونده ایمنی برای مدلی که از آستانه AI R&D-4 در چارچوب Anthropic عبور می‌کند طراحی کنید. شواهد لازم برای هر یک از سه ستون (پایش، ناخوانایی، ناتوانی) را نام ببرید.

4. نسخه 3.0 چارچوب FSF دیپ‌مایند یک CCL برای دستکاری مخرب معرفی می‌کند. سه سنجش تجربی پیشنهاد کنید که نشان دهد یک مدل از این آستانه عبور کرده است.

5. گزارش «Common Elements of Frontier AI Safety Policies» از موسسه METR (سال 2025) را بخوانید. سه مورد از قوی‌ترین همگرایی‌ها و دو مورد از بزرگ‌ترین واگرایی‌های بین‌آزمایشگاهی را نام ببرید.

اصطلاحات کلیدی

برای مطالعه‌ی بیشتر

• Anthropic — Responsible Scaling Policy v3.0 (فوریه 2026) — سطوح ASL، نقشه‌های راه، تفکیک تحقیق و توسعه هوش مصنوعی
• OpenAI — Updating the Preparedness Framework (15 آوریل 2025) — معیارهای پنج‌گانه، بند تعدیل
• DeepMind — Strengthening our Frontier Safety Framework (سپتامبر 2025) — نسخه 3.0 سطوح CCL، دستکاری مخرب
• METR — Common Elements of Frontier AI Safety Policies (2025) — مقایسه تطبیقی میان آزمایشگاه‌ها