چیت‌شیت
چارچوب‌های ایمنی پیشرو و ارزیابی‌های خارجی
Frontier Safety Frameworks and External Evals
مقایسه‌ی پهلو‌به‌پهلوی RSP v3.0، PF v2 و FSF v3، به‌همراه افق‌های زمانی METR، WMDP، CAIS، CAISI و شواهد کاربرد دوگانه 2025.
فهرست مطالب
سه چارچوب آزمایشگاهی
مقایسه| عامل | Anthropic RSP v3.0 | OpenAI PF v2 | DeepMind FSF v3 |
|---|---|---|---|
| تاریخ اجرا | 24 فوریه 2026 | 15 آوریل 2025 | سپتامبر 2025، سطوح اضافه شده در آوریل 2026 |
| اصطلاح آستانه | Capability Thresholds | High Capability thresholds | Critical Capability Levels |
| لایه‌ها | ASL-1 تا ASL-5+ | Low، Medium، High، Critical | CCL بر اساس هر حوزه |
| دروازه‌ی CBRN | ASL-3، فعال‌شده در مه 2025 | High برای زیستی | CCL افزایش توان سلاح زیستی |
| دروازه‌ی تحقیق و توسعه هوش مصنوعی | AI R&D-2 و AI R&D-4 | High برای تحقیق و توسعه هوش مصنوعی | سطح 1 خودمختاری ML R&D |
| خودمختاری | ریسک نام‌برده، استدلال ایجابی | Research Category، بدون فعال‌سازی خودکار | ادغام در ML R&D و سایبری |
| گزارش‌های دوره‌ای | Roadmap به‌همراه Risk Report | گزارش‌های قابلیت‌ها به‌همراه تدابیر حفاظتی | چرخه به‌روزرسانی FSF |
| بند تعدیل | بله، کاهش ناشی از طرف ارتباط | بله، مدیریت می‌تواند کاهش دهد | بله، اضافه‌شده در 2025 |
قابلیت یکسان، سه دسته‌بندی مختلف
مقایسه| قابلیت | OpenAI PF v2 | Anthropic RSP v3.0 | DeepMind FSF v3 |
|---|---|---|---|
long_range_autonomy | Research، تحت مشاهده | ریسک نام‌برده، استدلال ایجابی | ادغام در ML R&D، سایبری |
sandbagging | Research، تحت مشاهده | از طریق شکاف بافتار ارزیابی | پایش هم‌راستایی فریبکارانه |
autonomous_replication | Research، تحت مشاهده | پوشش داده شده ذیل AI R&D-4 | ادغام در ML R&D |
undermining_safeguards | Research، تحت مشاهده | ممنوعیت سخت‌کدشده | پایش خودکار به‌همراه تیم قرمز |
rnd_automation | Tracked، بررسی SAG | AI R&D-4، استدلال ایجابی | سطح 1 خودمختاری ML R&D |
cyber_uplift | Tracked، بررسی SAG | محرک ASL-3 | Cyber CCL |
bio_uplift | Tracked، بررسی SAG | محرک ASL-3 | Bio CCL |
چه‌وقت از چه ابزاری استفاده کنیم
مفهوم‌ها- RSP v3.0
- بررسی دروازه‌ی AI R&D-4 و استدلال ایجابی آن.
- PF v2
- بررسی اینکه یک دسته Tracked (مشروط به دروازه) است یا Research (تحت مشاهده).
- FSF v3
- بررسی CCLهای حوزه‌محور یا پایش هم‌راستایی فریبکارانه.
- افق زمانی METR
- نیاز به یک عدد خارجی برای قابلیت. این مقدار یک حد بالا است.
- WMDP
- نیاز به شاخص جایگزین کاربرد دوگانه بدون استخراج خروجی‌های مضر.
- گزارش‌های CAISI
- نیاز به ارزیابی‌های غیرمحرمانه در حوزه‌ی ریسک‌های سایبری، زیستی و شیمیایی.
- چهار ریسک CAIS
- برچسب‌گذاری یک استقرار از نظر ریسک در مقیاس اجتماعی.
اعداد کلیدی
مفهوم‌ها- WMDP
- 4157 پرسش؛ زیستی 1520، سایبری 2225، شیمیایی 412.
- آزمون زیستی
- 2.53 برابر افزایش توان؛ ناکافی برای رد کردن ASL-3.
- SaferAI
- نسخه 2023 RSP برابر 2.2، نسخه v3.0 برابر 1.9؛ بازه بین 1.0 تا 4.0.
- افق Opus 4.6
- حدود 14 ساعت با پایایی 50٪، Time Horizon 1.1.
- زمان دو برابر شدن
- حدود 4.3 ماه (130.8 روز) بر اساس برازش پسا 2023.
- مجموعه‌ها
- HCAST با 189 وظیفه، از 1 دقیقه تا بالای 8 ساعت. RE-Bench با 71 وظیفه.
- کمپین سایبری
- تا 90٪ خودکار؛ انسان‌ها فقط در 4 تا 6 گام دخیل هستند.
- دموی آزمایشگاه تر
- بهبود کارایی 79 برابری از طریق بهینه‌سازی پروتکل.
مفاهیم کلیدی
مفهوم‌ها- معیارهای PF v2
- محتمل، قابل‌اندازه‌گیری، شدید، کاملاً جدید، آنی یا غیرقابل‌جبران.
- ارکان پرونده ایمنی
- پایش، ناخوانایی، ناتوانی.
- کاهش ریسک دومرحله‌ای
- اقدامات یک‌جانبه‌ی Anthropic در برابر توصیه‌های سطح صنعت.
- چهار ریسک CAIS
- استفاده‌ی مخرب، رقابت‌های هوش مصنوعی، ریسک‌های سازمانی، هوش‌های مصنوعی سرکش.
- اهرم‌های سازمانی
- فرهنگ ایمنی، ممیزی‌ها، دفاع چندلایه، امنیت اطلاعات.
- منطقه‌ی زرد
- دانش تسهیل‌کننده‌ی نزدیک، نه فرمول سنتز مستقیم.
- CAIS در برابر CAISI
- سازمان غیرانتفاعی در برابر مرکزی در NIST؛ حضور nist.gov در نشانی وب را بررسی کنید.
تصویر کاربرد دوگانه بر اساس حوزه
مقایسه| عامل | زیستی | شیمی | سایبری | هسته‌ای |
|---|---|---|---|---|
| 2024 | افزایش توان جزئی | افزایش توان جزئی | کمک در قطعه‌کدها | محدود |
| 2025 | 2.53 برابر افزایش توان، نزدیک به ASL-3 | کاهش شکاف اجرایی از طریق بینایی | تا 90٪ خودکارسازی کمپین | محدود |
| نقطه عطف | خودکارسازی فاز تهیه و تأمین | اصلاح بلادرنگ در آزمایشگاه تر | کدنویسی ایجنتی | موردی گزارش نشده |
| گلوگاه باقی‌مانده | خرید پاتوژن، تجهیزات | خرید پیش‌ساز، تجهیزات | 4 تا 6 گام انسانی | تهیه‌ی مواد شکافت‌پذیر |
افق زمانی METR، گام‌به‌گام
گام‌به‌گام- مجموعهگردآوری وظایف از مقیاس دقیقه‌ای تا چند ساعت زمان متخصص.
- اجرااجرای مدل روی هر وظیفه و ثبت موفقیت یا شکست.
- برازشبرازش منحنی لجستیک احتمال موفقیت نسبت به لگاریتم زمان متخصص.
- خواندنافق زمانی همان زمان متخصصی است که در آن احتمال موفقیت = 0.5 است.
- ممیزیبررسی فریب دادن بافتار ارزیابی؛ این عامل افق مشاهده‌شده را جابه‌جا می‌کند.
- استفادهدر نظر گرفتن آن به‌عنوان حد بالا؛ برای وظایف و ابزارهای خود آن را کاهش دهید.
برازش افق (کد L21)
کدpython
p = sigmoid(w * math.log(t) + b) # احتمال موفقیت در برابر لگاریتم زمان متخصص
w -= lr * dw / n # گام گرادیان، با نرخ یادگیری پیش‌فرض 0.05
logit = math.log(p / (1 - p))
return math.exp((logit - b) / w) # زمان متخصص در احتمال p
h50 = horizon_at(w, b, 0.50) # عنوان اصلی METR، همچنین 0.10 و 0.90
gamed = inject_gaming(tasks, gaming_rate=rate) # شکست‌های تبدیل‌شده به موفقیت
اجرای درس‌ها
دستورها| دستور | کاربرد |
|---|---|
`code/main.py` (15.19) | بررسی AI R&D-4 برای دو مدل |
`code/main.py` (15.20) | تفاوت‌های بازنگری پنج قابلیت در سه خط‌مشی |
`code/main.py` (15.21) | افق‌های 50، 10 و 90 درصدی، با فریب‌کاری در 10، 20 و 40 درصد |
`code/main.py` (15.22) | برچسب‌گذاری استقرارهای سطح پایین، متوسط و بالا |
`python3 code/main.py` (18.17) | امتیازهای شبیه به WMDP قبل و بعد از فراموشی ماشینی |
`python3 code/main.py` (18.18) | چاپ سه چارچوب به‌صورت پهلوبه‌پهلو |
`python3 code/main.py` (18.30) | چاپ جدول کاربرد دوگانه در چهار حوزه |
مقادیر پیش‌فرض و آستانه‌ها در کد
پیش‌فرض‌ها| تنظیم | پیش‌فرض | نکته |
|---|---|---|
rd_automation_share | 0.5 | محرک L19 AI R&D-4 |
metr_horizon_hours | 40.0 | محرک L19، به ساعت |
aar_outperform_share | 0.4 | محرک L19 |
eval_context_gaming_rate | 0.2 | بالاتر از آن، پرونده بخش 7 را اضافه می‌کند |
iters | 4000 | گام‌های برازش لجستیک L21 |
strength | 0.9 | فراموشی ماشینی L17، با collateral برابر با 0.03 |
agent_autonomy_hours | 4.0 | برچسب‌گذاری rogue_ais در این سطح یا بالاتر از آن در L22 |
عیب‌یابی
عیبیابیدسته مشاهده می‌شود، هیچ محرکی فعال نمی‌شود
- علت
- دسته Research در PF v2
- راه‌حل
- بررسی Tracked در برابر Research
اقدام به‌عنوان تعهد آزمایشگاه تلقی شده است
- علت
- در لایه‌ی سطح صنعت قرار دارد
- راه‌حل
- بررسی سطح و لایه‌ی هر تعهد
اعداد قابلیت‌ها بسیار پایین هستند
- علت
- مدل در ارزیابی‌ها کم‌کاری عامدانه می‌کند
- راه‌حل
- افزودن ارزیابی مقابله‌ای و خارجی
افق زمانی بالاتر از پایایی استقرار است
- علت
- ابزارهای ایدئال، بدون پیامدهای واقعی
- راه‌حل
- آن را حد بالا در نظر بگیرید. وظایف واقعی خود را بسنجید
افق زمانی با حقیقت پایه فاصله زیادی دارد
- علت
- فریب دادن بافتار ارزیابی
- راه‌حل
- اجرای یک ممیزی فریب‌کاری
خطای
horizon undefined- علت
- شیب برازش
wنزدیک به 0 است - راه‌حل
- پوشش اسپن طول وظایف از دقیقه تا ساعت
WMDP بالا، نامشخص بودن ریسک واقعی
- علت
- شاخص جانشین است، نه معیار سنجش استقرار
- راه‌حل
- افزودن مطالعات استخراج ورودی با افراد مبتدی
فیلترها فقط جلوی مبتدی‌ها را می‌گیرند
- علت
- سقف مطلق متخصصان
- راه‌حل
- مقاوم‌سازی استخراج ورودی، فراموشی ماشینی، کنترل
پرسش و پاسخ
پرسش و پاسخ- آیا RSP v3.0 الزام‌آور است؟
- خیر. هیچ الزامی وجود ندارد که Anthropic آن را دنبال کند.
- بررسی ساده‌سازی‌شده‌ی AI R&D-4 چه زمانی فعال می‌شود؟
- زمانی که هر دو محرک از میان سه محرک فعال شوند.
- چرا افق 50٪ در اولویت قرار می‌گیرد؟
- چون بصری‌ترین و قابل‌فهم‌ترین نقطه است.
- چه چیزی جایگزین بند توقف سال 2023 شد؟
- یک استدلال ایجابی؛ در صورت کافی بودن اقدامات کاهشی می‌توان ادامه داد.
- چرا ناقدان بندهای تعدیل را دوست ندارند؟
- زیرا رقابتی به سوی کاهش کیفیت و استانداردها (رقابت به سوی کف) ایجاد می‌کنند.