درک سیاست‌های مقیاسپذیری مسئولانه (Responsible Scaling Policy یا RSP) تنها مختص مدیران محصول یا سیاست‌گذاران بین‌المللی نیست. به‌عنوان مهندس یا پژوهشگری که با مدل‌های زبانی بزرگ کار می‌کند یا سیستم‌هایش به خروجی مدل‌های مرزی وابسته است، باید بدانید شرکت‌های پیشرو چگونه مرزهای ایمنی را تعریف می‌کنند و چه تعهداتی در عمل پشت انتشار مدل‌های جدید وجود دارد.
سند RSP v3.0 شرکت Anthropic نمایانگر تغییر رویکردی اساسی در مواجهه با خطرات مدل‌های بسیار پیشرفته است. بررسی دقیق تفاوت‌های این نسخه با نگارش قبلی، از جمله حذف بند تعهد به توقف آموزش و تبدیل معیارهای کمّی به کیفی، نشان می‌دهد که چرا ادعاهای ایمنی عمومی را نباید بدون دید انتقادی و فنی پذیرفت.
این درس به شما کمک می‌کند تا سازوکار داخلی این اسناد حاکمیتی را رمزگشایی کنید، با منطق ارزیابی آستانه خودکارسازی پژوهش‌ها (AI R&D-4) آشنا شوید و کدهای شبیه‌سازی تصمیم‌گیری برای انتشار یا توقف مدل را تحلیل کنید.
نسخه‌ی 3.0 سند سیاست مقیاسپذیری مسئولانه (RSP) در تاریخ 24 فوریه 2026 اجرایی شد و جایگزین خط‌مشی سال 2023 گردید. کاهش ریسکِ دومرحله‌ای: اقداماتی که Anthropic به‌طور یکجانبه انجام می‌دهد در برابر مواردی که در قالب توصیه‌هایی برای کل صنعت مطرح شده‌اند (شامل استانداردهای امنیتی RAND SL-4). «نقشه‌های راه ایمنی مرزی» (Frontier Safety Roadmaps) و «گزارش‌های ریسک» (Risk Reports) به‌جای دست‌سازه‌های مقطعی، به اسناد دائمی تبدیل شده‌اند. تعهد به توقف سال 2023 حذف شده است. آستانه‌ی AI R&D-4 معرفی شده است: به‌محض عبور از این آستانه، Anthropic باید یک «استدلال ایجابی» (affirmative case) منتشر کند که ریسک‌های ناهماهنگی و راهکارهای کاهش آن را مشخص سازد. مدل Claude Opus 4.6 از این آستانه عبور نمی‌کند. Anthropic در بیانیه‌ی نسخه‌ی 3.0 اعلام می‌کند که «رد کردن قطعی این موضوع دارد دشوار می‌شود.» مؤسسه‌ی SaferAI به سند سال 2023 امتیاز 2.2 داده بود؛ آن‌ها این امتیاز را برای نسخه‌ی 3.0 به 1.9 کاهش دادند و Anthropic را در کنار OpenAI و DeepMind در دسته‌ی RSPهای «ضعیف» قرار دادند. آستانههای کیفی جایگزین تعهدات کمّیِ سال 2023 شدند؛ حذف بند مربوط به توقف آموزش، آشکارترین پس‌رفت این سند است.
صورت مسئله
آزمایشگاه‌های پیشرو در مدل‌های مرزی، سیاست‌های مقیاسپذیری منتشر می‌کنند؛ اسنادی که بخشی فنی، بخشی حاکمیتی و بخشی دیگر ارسال سیگنال به قانون‌گذاران به حساب می‌آیند. سند RSP v3.0 تازه‌ترین سند منتشرشده از سوی Anthropic است. خواندن دقیق این سند نه به‌خاطر الزام‌آور بودن رعایت آن (چون الزامی در کار نیست)، بلکه از این جهت اهمیت دارد که چارچوب‌بندی آن نشان می‌دهد یک آزمایشگاه چگونه ریسک فاجعه‌بار را درک می‌کند و سبک‌سنگین کردن تصمیماتش را چطور به اطلاع عموم می‌رساند.
بررسی تفاوت‌های نسخه‌ی 3.0 نسبت به 2.0، کاربردی‌ترین بخش ماجراست. مواردی که اضافه شدند: نقشه‌های راه ایمنی مرزی، گزارش‌های ریسک، و آستانه‌ی AI R&D-4. مواردی که حذف شدند: تعهد به توقف سال 2023. مواردی که بازتعریف شدند: برنامه‌ی کاهش ریسکِ دومرحله‌ای که بین اقدامات یک‌جانبه‌ی Anthropic و توصیه‌ها به کل صنعت تفکیک شده است. ارزیابی بیرونی SaferAI امتیاز این سند را از 2.2 (در نسخه‌ی 2) به 1.9 (در نسخه‌ی 3.0) کاهش داد. این ماجرا نشان می‌دهد چطور یک سیاست مقیاسپذیری میتواند با وجود ظاهری شسته‌رفته‌تر، از نظر سخت‌گیری علمی و عملی افت کند.
مفاهیم پایه
برنامه‌ی کاهش ریسکِ دومرحله‌ای
- اقدامات یک‌جانبه‌ی Anthropic: کارهایی که Anthropic صرف‌نظر از رفتار سایر آزمایشگاه‌ها انجام خواهد داد. توقف آموزش در صورت عبور از یک آستانه، تدابیر امنیتی مشخص، و دروازه‌های ورود مشخص برای استقرار مدل.
- توصیه‌ها برای کل صنعت: اقداماتی که به باور Anthropic، کل صنعت باید به‌شکل جمعی پیاده کنند؛ از جمله استانداردهای امنیتی RAND SL-4. این موارد جزو تعهدات مستقیم Anthropic نیستند، بلکه صرفاً حمایت و ترویج خط‌مشی به حساب می‌آیند.
ساختار دومرحله‌ای در نسخه‌ی 2 وجود نداشت؛ یعنی خواننده‌ی متن باید دقیقاً بررسی کند که هر تعهد در کدام ستون قرار گرفته است. تدبیر امنیتیِ درج‌شده در ستون «توصیه‌ها برای کل صنعت» قولِ قطعی Anthropic نیست؛ آرزوی Anthropic است.
آستانه‌ی AI R&D-4
این سطح از توانمندی، همان آستانه‌ی مهم بعدی است که در RSP v3.0 به آن اشاره شده؛ مشخصاً مدلی که بتواند بخش قابلتوجهی از پژوهش‌های هوش مصنوعی را با هزینهای رقابتی خودکار کند. به‌محض اینکه Anthropic تشخیص دهد مدلی از این مرز عبور کرده، پیش از ادامه‌ی مقیاسپذیری، باید یک استدلال ایجابی منتشر کند و در آن ریسک‌های ناهماهنگی و راهکارهای کاهش ریسک را شرح دهد.
طبق بیانیه‌ی انتشار نسخه‌ی 3.0، مدل Claude Opus 4.6 از این آستانه عبور نمی‌کند. در متن سند آمده است: «رد کردن قطعی این موضوع دارد دشوار می‌شود.» لحن این جمله اهمیت بالایی دارد؛ این اعترافی است به اینکه آستانه‌ی مذکور به‌اندازه‌ای نزدیک شده که به یک دغدغه‌ی زنده و واقعی تبدیل شود، نه یک حدس و گمان نظری و دوردست.
درس 6 (پژوهش هم‌ترازی خودکار) و درس 7 (بهبود بازگشتی خودکار) مستقیماً به همین آستانه مربوط می‌شوند. دستیابی پژوهشگرانِ خودکارِ هم‌ترازی به کیفیتی در سطح پژوهش واقعی، شواهدی است بر اینکه داریم به آستانه‌ی AI R&D-4 نزدیک می‌شویم.
نقشه‌های راه ایمنی مرزی و گزارش‌های ریسک
نسخه‌ی 3.0 دو نوع دست‌سازه را به اسناد دائمی ارتقا می‌دهد:
- نقشه‌ی راه ایمنی مرزی: سندی آینده‌نگر که به تشریح برنامه‌های کاری ایمنی، توانمندی‌های موردانتظار، و پژوهش‌های کاهش ریسک می‌پردازد.
- گزارش ریسک: سندی گذشته‌نگر درباره‌ی مدل‌های خاص پس از انتشار آن‌ها که توانمندی‌های مشاهده‌شده و ریسک باقی‌مانده را توضیح می‌دهد.
هر دو سند عمومی هستند و هر دو در بازه‌های زمانی مشخص به‌روزرسانی می‌شوند. فایده‌اش این است که خواننده میتواند بررسی کند آنچه Anthropic در نقشه‌ی راه وعده داده بود، تا چه حد با آنچه در گزارش ریسک بازتاب یافته، هم‌خوانی دارد.
حذف بند توقف آموزش
سند RSP سال 2023 شامل یک تعهد صریح به توقف بود: اگر مدلی از آستانههای مشخصِ توانمندی عبور می‌کرد، آموزش تا زمان پیاده‌سازی راهکارهای کاهش ریسک متوقف می‌شد. نسخه‌ی 3.0 این توقف صریح را با عبارتی ملایم‌تر جایگزین کرده است (انتشار استدلال ایجابی، و ادامه‌ی مسیر در صورت کافی بودن تمهیدات). مؤسسه‌ی SaferAI و سایر تحلیل‌گران مستقیماً به این موضوع اشاره کردند و آن را بزرگ‌ترین پس‌رفت سند جدید نامیدند.
استدلال سیاستی پشت این تغییر چنین بود: آستانههای کمّی سال 2023 در بنچمارک‌های توانمندی سال 2026 دست‌نیافتنی از آب درآمدند، چرا که خود بنچمارک‌ها مجدداً مقیاس‌بندی شده بودند. در مقابل، استدلال مخالفان این است: بند توقف در یک سیاست مقیاسپذیری، ابزار ایجاد تعهد (commitment device) است؛ حذف آن اعتبار سند را زیر سؤال می‌برد.
کاهش امتیاز توسط SaferAI
مؤسسه‌ی SaferAI نهادی مستقل است که اسناد مشابه RSP را ارزیابی می‌کند. امتیاز رسمی آن‌ها: سند سال 2023 شرکت Anthropic نمره‌ی 2.2 گرفت (در مقیاسی که 4.0 بهترین RSP فعلی و 1.0 صرفاً اسمی و تشریفاتی است). نسخه‌ی 3.0 امتیاز 1.9 گرفت. این افت امتیاز باعث شد Anthropic از دسته‌ی «متوسط» به «ضعیف» سقوط کند و کنار OpenAI و DeepMind قرار بگیرد.
عوامل کاهش امتیاز از دید SaferAI:
- جایگزینی آستانههای کمّی با آستانههای کیفی.
- حذف تعهد صریح به توقف آموزش.
- توصیف تمهیدات آستانه‌ی AI R&D-4 در قالب یک «استدلال ایجابی» به‌جای ارائه‌ی اقدامات مشخص.
- وابستگی سازوکارهای بازبینی به «گروه مشاوره‌ی ایمنی» خود Anthropic، همراه با نظارت مستقل بسیار محدود.
این درس درباره‌ی چه چیزی نیست
این درس، آموزش رعایت مقررات نیست. سند RSP v3.0 مقررات یا قانون رسمی به شمار نمی‌رود و هیچ نهادی Anthropic را ملزم به اجرای آن نمی‌کند. هدف این درس، یادگیری نحوه‌ی خواندن دقیق، موشکافانه و با دیده‌ی تردید نسبت به این قبیل اسناد است. سیاست‌های مقیاسپذیری، سیگنال‌های عمومی و اصلی آزمایشگاه‌های پیشرو درباره‌ی رویکردشان به ریسک فاجعه‌بار هستند. خواندن درست آن‌ها مهارتی عملی برای هر متخصصی است که کارش به توانمندی مدل‌های مرزی گره خورده است.
استفاده از ابزارهای واقعی
فایل code/main.py یک موتور تصمیم‌گیری کوچک را پیاده‌سازی می‌کند که از ساختار ارزیابی آستانه در RSP الگوبرداری شده است: یک مدل پیشنهادی و مجموعه‌ای از معیارهای سنجش توانمندی را می‌گیرد و مشخص می‌کند که آیا آستانه‌ی AI R&D-4 رد شده است یا نه، بخش‌های الزامی استدلال ایجابی را برمی‌گرداند، و مجوز انتشار مدل را تعیین می‌کند. این ابزار عمداً ساده نوشته شده است؛ هدف اصلی شفاف کردن منطق حاکم بر سند است.
خروجی این درس
فایل outputs/skill-scaling-policy-review.md یک سیاست مقیاسپذیری (مربوط به Anthropic، OpenAI، DeepMind یا یک خط‌مشی داخلی) را بر اساس ساختار مرجع نسخه‌ی 3.0 نقد و بررسی می‌کند: ساختار دومرحله‌ای، آستانه‌ها، تعهدات توقف، و نظارت مستقل.
تمرین‌ها
-
اسکریپت
code/main.pyرا اجرا کنید. سه مدل ساختگی با سطوح توانمندی مختلف به آن بدهید. بررسی کنید که ارزیاب آستانه طبق انتظار عمل کند و قالب درستی برای استدلال ایجابی بسازد. -
متن کامل RSP v3.0 را (در 32 صفحه) بخوانید. تمام تعهداتی را که در سطح «توصیه‌ها برای کل صنعت» قرار گرفته‌اند مشخص کنید. کدام‌یک از این تعهدات در نسخه‌ی 2 جزو «اقدامات یک‌جانبه‌ی Anthropic» بودند؟
-
روش‌شناسی نمره‌دهی SaferAI به RSP را بخوانید. با اعمال شیوه‌نامه‌ی نمره‌دهی آن‌ها روی متن سند، امتیاز 1.9 نسخه‌ی 3.0 را بازتولید کنید. کدام ردیف از شیوه‌نامه‌ی نمره‌دهی بیشترین سهم را در این افت امتیاز داشته است؟
-
تعهد به توقف سال 2023 حذف شد. تعهد جایگزینی پیشنهاد دهید که در عین در نظر گرفتن مشکل تغییر مقیاس بنچمارک‌ها در سال 2026، اعتبار و بازدارندگی سند را هم حفظ کند.
-
سند RSP v3.0 را با چارچوب آمادگی (Preparedness Framework) نسخه‌ی 2 شرکت OpenAI (درس 20) مقایسه کنید. یک مورد را که v3.0 در آن عملکرد قوی‌تری دارد و یک مورد را که چارچوب آمادگی قوی‌تر عمل کرده است مشخص کنید.
اصطلاحات کلیدی
| اصطلاح | در گفت‌وگوها چه می‌گویند | معنای واقعی آن چیست |
|---|---|---|
| RSP | «سیاست مقیاسپذیری Anthropic» | سیاست مقیاسپذیری مسئولانه (Responsible Scaling Policy)؛ نسخه‌ی 3.0 از 24 فوریه 2026 اجرایی شد |
| AI R&D-4 | «آستانه‌ی خودکارسازی پژوهش» | توانمندی خودکارسازی بخش چشم‌گیری از پژوهش‌های هوش مصنوعی با هزینهای رقابتی |
| استدلال ایجابی | «توجیه ایمنی» | سندی منتشرشده که ثابت می‌کند ریسکها شناسایی شده‌اند و تمهیدات کافی برای مهار آن‌ها وجود دارد |
| نقشه‌ی راه ایمنی مرزی | «برنامه‌ی پیشرو» | سندی دائمی درباره‌ی کارهای ایمنیِ برنامه‌ریزی‌شده و توانمندی‌های موردانتظار |
| گزارش ریسک | «بررسی گذشته‌نگر یک مدل» | سندی دائمی پیرامون توانمندی مشاهده‌شده و ریسک باقی‌مانده پس از انتشار مدل |
| کاهش ریسکِ دومرحله‌ای | «یکجانبه در برابر کل صنعت» | تفکیک تعهدات مستقیم Anthropic از توصیه‌هایی که برای کل صنعت دارد |
| تعهد به توقف | «بند سال 2023» | قولی صریح برای متوقف کردن آموزش مدل؛ در نسخه‌ی 3.0 حذف شد |
| امتیاز SaferAI | «نمره‌ی مستقل RSP» | شیوه‌نامه‌ی نمره‌دهی مستقلِ شخص ثالث؛ نسخه‌ی 3.0 امتیاز 1.9 گرفت (نسخه‌ی 2 امتیاز 2.2 گرفته بود) |
برای مطالعه‌ی بیشتر
- Anthropic — Responsible Scaling Policy v3.0 — متن کامل خط‌مشی در 32 صفحه.
- Anthropic — RSP v3.0 announcement — خلاصه‌ی تغییرات نسبت به نسخه‌ی 2.
- Anthropic — Frontier Safety Roadmap — سند دائمی که در RSP v3.0 به آن ارجاع داده شده است.
- Anthropic — Risk Report: February 2026 — بررسی گذشته‌نگر مدل Claude Opus 4.6؛ پیشرفته‌ترین مدل مرزی هنگام انتشار سند.
- Anthropic — Measuring agent autonomy in practice — برقراری پیوند میان آستانه‌ی AI R&D-4 و استقلال عملِ اندازه‌گیری‌شده در ایجنت‌ها.