چیت‌شیت
کارت‌ها، منشأ و سندیت، رگولاتوری و رفاه
Cards, Provenance, Regulation and Welfare
تاریخ‌های قانون هوش مصنوعی اتحادیه اروپا، چهار رژیم قانونی، سه کارت، فیلدهای AB 2013، ارزش مورد انتظار رفاه و ارزیاب‌های خارجی.
فهرست مطالب
تایم‌لاین قانون هوش مصنوعی اتحادیه اروپا (EU AI Act)
گام‌به‌گام- 1 آگوست 2024لازم‌الاجرا شدن قانون هوش مصنوعی اتحادیه اروپا.
- 2 فوریه 2025اعمال ممنوعیت اقدامات غیرمجاز و الزامات سواد هوش مصنوعی.
- 2 آگوست 2025اعمال تعهدات حاکمیتی و مدل‌های GPAI.
- 10 ژوئیه 2025شیوه‌نامه‌ی عملیاتی GPAI؛ 3 فصل، 12 تعهد.
- 17 دسامبر 2025اولین پیش‌نویس شیوه‌نامه‌ی شفافیت برای ماده‌ی 50.
- 2 آگوست 2026اجرای کامل، شفافیت ماده‌ی 50 و جریمه‌ها.
- 2 آگوست 2027مدل‌های قدیمی GPAI و سیستم‌های پرریسک تعبیه‌شده.
مقایسه‌ی چهار رژیم قانونی در کنار هم
مقایسه| شاخص | اتحادیه اروپا | آمریکا | بریتانیا | کره جنوبی |
|---|---|---|---|---|
| نهاد یا قانون | EU AI Act | CAISI ذیل NIST | مؤسسه امنیت هوش مصنوعی (AISI) | قانون چارچوب هوش مصنوعی |
| تاریخ کلیدی | لازم‌الاجرا از 1 آگوست 2024 | تغییر نام در ژوئن 2025 | تغییر نام در فوریه 2025 | لازم‌الاجرا از ژانویه 2026 |
| رویکرد کلی | سخت‌گیرانه، لایه‌بندی بر اساس ریسک | حامی رشد و نوآوری | تمرکز محدود روی امنیت | به‌رهبری MSIT |
| وظیفه‌ی اصلی | سطوح ریسک، برچسب‌های ماده‌ی 50 | استانداردها و نوآوری | امنیت قابلیت‌های مدل‌های پیشرو (Frontier) | نماینده‌های محلی برای شرکت‌های هوش مصنوعی خارجی |
| نکات اضافی | جریمه تا 15 میلیون یورو یا 3% | پوشش خلأهای فدرال توسط ایالت‌ها | متن‌باز کردن Inspect | یکپارچه‌سازی 19 لایحه‌ی هوش مصنوعی |
| سیگنال | مبنای رگولاتوری‌های حوزه‌ی حریم خصوصی | ارزیابی پیش از استقرار کمتر | حذف قالب‌های سوگیری و آزادی بیان | ماده‌ی 12 AISI ذیل MSIT |
سطوح ریسک در قانون هوش مصنوعی اتحادیه اروپا
مفهوم‌ها- ممنوع (ماده‌ی 5)
- امتیازدهی اجتماعی، شناسایی بیومتریک از راه‌دور بلادرنگ در اماکن عمومی.
- پرریسک (ضمیمه‌ی III)
- اشتغال، آموزش، اعتبارسنجی، مجریان قانون، دادگستری، مهاجرت.
- تعهدات پرریسک
- ارزیابی انطباق، مدیریت ریسک، لاگ‌گیری، شفافیت.
- مدل‌های GPAI
- کلیه‌ی ارائه‌دهندگان GPAI از 2 آگوست 2025 مشمول تعهدات می‌شوند.
- مدل‌های GPAI دارای ریسک سیستمیک
- محاسبات آموزش بالای 1e25 FLOP؛ تخمین زده می‌شود شامل 5 تا 15 شرکت باشد.
- ریسک محدود
- برچسب‌های ماده‌ی 50 برای محتوای تولیدشده با هوش مصنوعی.
- فصل‌های شیوه‌نامه
- شفافیت و کپی‌رایت برای همه‌ی GPAIها الزامی است. ایمنی و امنیت فقط برای GPAI با ریسک سیستمیک.
دامنه‌ی کارت‌ها
معماریاجرای کد درس
دستورها| دستور | عملکرد |
|---|---|
`python3 code/main.py` (L19) | چاپ EV و تصمیم به سرمایه‌گذاری (INVEST) یا رد مداخله |
`python3 code/main.py` (L24) | چاپ تایم‌لاین رگولاتوری (TIMELINE) |
`python3 code/main.py` (L26) | چاپ کارت مدل، دیتاشیت و کارت سیستم |
`python3 code/main.py` (L27) | چاپ خلاصه‌ی 12 موردی قانون AB 2013 |
flag_followups(summary) | فهرست‌کردن الزامات ثانویه‌ای که فیلدها فعال می‌کنند |
render_markdown(summary) | نوشتن (missing) برای فیلدهای خالی |
`python3 code/main.py` (L28) | چاپ نقشه‌ی زیست‌بوم (ECOSYSTEM) پنج سازمان |
فیلدهای بخش 3111(a) قانون AB 2013
کدpython
AB_2013_FIELDS = [
"sources_or_owners", # 1
"how_dataset_furthers_intended_purpose", # 2
"number_of_data_points (or range)", # 3
"types_of_data_points (label types or general characteristics)", # 4
"purchased_or_licensed (Y/N)", # 6
"cleaning_processing_or_modification_description", # 9
"dates_first_used_during_development", # 11
"uses_synthetic_data_generation (Y/N)", # 12 مورد، فیلدهای جدید در برابر دیتاشیت‌ها
]
# 5 فلگ کپی‌رایت: احترام به انصراف (opt-out) از TDM در اتحادیه اروپا
# 7 فلگ اطلاعات هویتی: فعال‌سازی تعهدات CPRA
# 8 تجمیع اطلاعات مصرف‌کنندگان، 10 بازه‌ی زمانی جمع‌آوری
ارزش مورد انتظار رفاه
کدpython
def ev(intervention, scenario):
return (intervention.benefit_if_welfare_matters
* scenario.moral_patienthood_probability
- intervention.cost_usd_per_conversation)
verdict = "INVEST" if v > 0 else "skip" # سرمایه‌گذاری فقط در صورت EV > 0
Intervention("end-conversation on extreme edge cases", 0.002, 1.0)
Intervention("shutdown deployed model", 1000.0, 2.0)
Scenario("low moral-patienthood probability", 0.01)
Scenario("high moral-patienthood probability", 0.50)
اعداد مهم
پیش‌فرض‌ها| تنظیم | پیش‌فرض | توضیحات |
|---|---|---|
End-conversation cost | 0.002 | دلار به ازای هر مکالمه در کد L19 |
Moral-patienthood p | 0.01 | متوسط 0.10، بالا 0.50 |
Cards with ethical considerations | 0.3% | ممیزی Hugging Face، Oreamuno و همکاران 2023 |
Download lift of detailed cards | up to 29% | Liang و همکاران 2024 |
AB 2013 posting date | January 1, 2026 | برای سیستم‌های عرضه‌شده در یا پس از 1 ژانویه 2022 |
Top sources with new restrictions | about 25% | 2023 -> 2024، گزارش Consent in Crisis |
MATS scale | 527+ researchers | بیش از 180 مقاله، h-index 47 |
MATS alumni in safety | ~80% | دانش‌آموختگان پیش از 2025 |
عیب‌یابی
عیبیابیدرخواست پاک‌کردن داده از وزن‌های مدل
- علت
- حذف دقیق و نقطه‌ای داده‌ها ممکن نیست
- راه‌حل
- رعایت الزامات در زمان جمع‌آوری داده؛ فراموشی ماشینی تنها ناقص و جزئی است
مجموعه‌داده شامل اطلاعات هویتی اشخاص است
- علت
- بند 7 قانون AB 2013
- راه‌حل
- رعایت تعهدات CPRA
مجموعه‌داده حاوی آثار دارای کپی‌رایت است
- علت
- بند 5 قانون AB 2013
- راه‌حل
- احترام به سیگنال‌های انصراف (opt-out) از TDM اتحادیه اروپا
ادعای مندرج در کارت بدون اثبات است
- علت
- کارت صرفاً یک ادعای خام دارد
- راه‌حل
- افزودن تاییدیه قابل‌راستی‌آزمایی (Laminator)
گزارش خوداظهاری رفاه تابع لحن سؤال است
- علت
- خوداظهاری‌ها انتظارات کاربر را منعکس می‌کنند
- راه‌حل
- استفاده از ارزیابی رفتار، مدل‌های نمونه (model organisms) و پروب‌ها
ارزیابی مدل توسط خود آزمایشگاه توسعه‌دهنده
- علت
- تضاد منافع ساختاری
- راه‌حل
- افزودن ارزیاب‌های خارجی
استقرار هم‌زمان در چند حوزه‌ی قضایی مختلف
- علت
- تفاوت قوانین بر حسب حوزه قضایی
- راه‌حل
- رعایت سخت‌گیرانه‌ترین چارچوب؛ معمولاً EU AI Act
کارت مدل فقط فیلدهای پیش‌فرض را دارد
- علت
- بخش‌های ضعیف و فاقد اطلاعات لازم
- راه‌حل
- افزودن تحلیل کمّی تفکیک‌شده (disaggregated)
کاربرد هر کارت
نکته‌ها- از کارت مدل برای مستندسازی مدل استفاده کنید: کاربرد هدف، عوامل، متریک‌ها، تحلیل‌های تفکیک‌شده.
- از دیتاشیت برای مستندسازی داده استفاده کنید: انگیزه، ترکیب داده، جمع‌آوری، برچسب‌گذاری، کاربردها، توزیع، نگهداری.
- از کارت داده در شرایط مخاطبان متفاوت استفاده کنید: تلسکوپی برای غیرمتخصصان، میکروسکوپی برای ممیزان.
- از کارت سیستم برای مرحله‌ی استقرار استفاده کنید: امنیت، محافظت در برابر پرامپت اینجکشن، تشخیص نشت داده، پاسخ به رخدادها.
- فیلدهای پایداری را برای ردپای کربن، آب و مصرف انرژی محاسباتی اضافه کنید.
اختصارات
اصطلاح‌ها- GPAI
- هوش مصنوعی همه‌منظوره؛ مدل‌های پایه‌ای بزرگ (Foundation Models).
- CAISI
- مرکز استانداردها و نوآوری هوش مصنوعی؛ تغییرنام‌یافته از AISI ایالات متحده.
- MSIT
- وزارت علوم و فناوری اطلاعات و ارتباطات؛ میزبان AISI کره جنوبی.
- TDM
- متن‌کاوی و داده‌کاوی؛ استثنای دستورالعمل حق‌تکثیر اتحادیه اروپا با قابلیت انصراف.
- CPRA
- قانون حقوق حریم خصوصی؛ بند 7 از AB 2013 آن را فعال می‌کند.
- MATS
- محققان همسوسازی و تئوری یادگیری ماشین؛ منتورشیپ و خط لوله پرورش استعداد.
- METR
- ارزیابی مدل و پژوهش تهدیدات؛ ارزیابی قابلیت‌ها مبتنی بر وظیفه (Task).
- سیگنال انصراف
- robots.txt، استاندارد C2PA "No AI Training"، فلگ TDM.Reservation.
پرسش‌ها
پرسش و پاسخ- آیا رفاه مدل به معنای ادعای آگاهی آن است؟
- خیر؛ این یک ادعای مبتنی بر ارزش مورد انتظار ذیل عدم‌قطعیت اخلاقی است.
- Claude Opus 4 و 4.1 با چه قابلیتی منتشر شدند؟
- این مدل‌ها می‌توانند در موارد استثنایی و حاد گفتگو را پایان دهند.
- جاذب سرخوشی معنوی چیست؟
- حالتی که جفت‌نمونه‌های Claude با یکدیگر به سرخوشی مراقبه‌گونه همگرا می‌شوند.
- آیا منافع مشروع نیازمند رضایت کاربر است؟
- خیر؛ طبق دیدگاه نهادهای حفاظت از داده (DPA) در سال 2025، محتوای عمومی دست‌اول به همراه حق انصراف کافی است.
- کدام آزمایشگاه‌های مستقل خارج از سازمان‌ها چه می‌کنند؟
- رد‌وود: کنترل هوش مصنوعی؛ آپولو: ارزیابی فریب و پنهان‌کاری؛ الئوس: ارزیابی‌های رفاه مدل.
- چرا ارزیابی خارجی ضروری است؟
- ساختار چندسازمانی، تضمین‌کننده‌ی اصلی کنترل کیفیت است.