تا پیش از سال 2024، رعایت اصول ایمنی و ارزیابی در هوش مصنوعی بیشتر حالتی داوطلبانه داشت و آزمایشگاه‌های پیشرو طبق صلاحدید خود سازوکارهای کنترلی را تنظیم می‌کردند. اما در سال 2026 با اجرایی‌شدن مجموعه‌ای از قوانین سفت‌وسخت بین‌المللی، تطبیق معماری فنی با قوانین حقوقی به یک الزام حیاتی برای بقای سرویس‌ها تبدیل شده است.
اگر به‌عنوان توسعه‌دهنده یا مهندس محصول قصد دارید سیستمی پیاده‌سازی کنید که در بازارهای بین‌المللی یا برای کاربرانی خارج از مرزها خدمت‌رسانی کند، شناخت این چارچوب‌ها اجتناب‌ناپذیر است. توسعه‌دهندگان ایرانی که قصد عرضه‌ی محصول در سطوح فرامرزی یا استقرار سیستم روی زیرساخت‌های ابری بین‌المللی را دارند، باید بدانند که قوانین مناطقی مثل اتحادیه اروپا حتی ارائه‌دهندگان خارج از مرزهای جغرافیایی خود را نیز هدف میگیرند.
در این درس ساختار سطوح ریسک در قانون هوش مصنوعی اتحادیه اروپا (EU AI Act)، تغییر جهت رویکردهای نظارتی در آمریکا و بریتانیا، و نخستین قانون جامع هوش مصنوعی در آسیا (کره جنوبی) را با جزئیات فنی بررسی می‌کنیم تا بتوانید سیستم‌های خود را پیش از اعمال جرایم سنگین تطبیق دهید.
چهار رژیم اصلی قانون‌گذاری، چشم‌انداز حاکمیت هوش مصنوعی در سال 2026 را مشخص می‌کنند. قانون هوش مصنوعی اتحادیه‌ی اروپا (EU AI Act) (لازم‌الاجرا از 1 اوت 2024) — شیوه‌های ممنوعه و سواد هوش مصنوعی از 2 فوریه 2025؛ تعهدات هوش مصنوعی همه‌منظوره (GPAI) از 2 اوت 2025؛ اجرای کامل و الزامات شفافیت ماده‌ی 50 از 2 اوت 2026؛ سیستم‌های GPAI قدیمی و سیستم‌های پرریسک تعبیه‌شده از 2 اوت 2027؛ جریمه‌ها تا 15 میلیون یورو یا 3% از گردش مالی جهانی. مجموعه‌مقررات رفتاری GPAI (مصوب 10 ژوئیه 2025): سه فصل — شفافیت، حق نشر (Copyright)، ایمنی و امنیت — شامل 12 تعهد؛ آغاز اعمال قانون از اوت 2026. تبدیل UK AISI به موسسه‌ی امنیت هوش مصنوعی (فوریه 2025): تغییر نام نشان‌دهنده‌ی محدودتر شدن دامنه است. تبدیل US AISI به CAISI (ژوئن 2025): مرکز استانداردها و نوآوری هوش مصنوعی ذیل NIST؛ چرخش به‌سمت رویکرد حامی رشد. قانون چارچوب هوش مصنوعی کره (تصویب در دسامبر 2024، لازم‌الاجرا از ژانویه 2026): ماده‌ی 12 یک AISI ذیل وزارت علوم و فناوری اطلاعات و ارتباطات (MSIT) تأسیس می‌کند؛ شرکتهای خارجی هوش مصنوعی را به داشتن نماینده‌ی محلی، ارزیابی ریسک و اتخاذ تدابیر ایمنی برای هوش مصنوعی پرتاثیر و زاینده ملزم می‌سازد.
اهداف یادگیری
- سطوح ریسک قانون هوش مصنوعی اتحادیه‌ی اروپا (ممنوعه، پرریسک، همه‌منظوره، کم‌ریسک) و جدول زمانی اوت 2025 / اوت 2026 / اوت 2027 را شرح دهید.
- سه فصل مجموعه‌مقررات رفتاری GPAI را توضیح دهید و مشخص کنید هر فصل کدام ارائه‌دهندگان را ملزم می‌کند.
- تغییر نام‌های سال 2025 را بررسی کنید: تبدیل UK AISI به موسسه‌ی امنیت هوش مصنوعی؛ تبدیل US AISI به CAISI؛ و معنای هر تغییر نام از نظر جهت‌گیری سیاستی.
- بندهای محوری قانون چارچوب هوش مصنوعی کره‌ی جنوبی را بیان کنید.
صورت مسئله
چارچوب‌های آزمایشگاهی (درس 18) داوطلبانه‌اند، اما چارچوب‌های قانون‌گذاری اجباری هستند. در بازه‌ی 2024 تا 2026، نخستین موج قوانین جامع هوش مصنوعی اجرایی شد. مستقرکنندگان سیستم‌ها باید کنترل‌های فنی را با الزامات قانونی تطبیق دهند؛ تطبیقی که بر اساس هر حوزه‌ی قضایی تفاوت می‌کند.
مفهوم
قانون هوش مصنوعی اتحادیه‌ی اروپا (EU AI Act)
لازم‌الاجرا از 1 اوت 2024. ساختار سطوح ریسک:
- شیوه‌های ممنوعه (ماده‌ی 5). امتیازدهی اجتماعی (Social scoring)، شناسایی بیومتریک از راه دور به‌صورت بلادرنگ در مکان‌های عمومی (با استثنائات مربوط به ضابطان قضایی)، بهره‌کشی دست‌کاری‌کننده از گروه‌های آسیب‌پذیر. اعمال‌شده از 2 فوریه 2025.
- سیستم‌های پرریسک (پیوست III). استخدام، آموزش، اعتبارسنجی، اجرای قانون، دادگستری، مهاجرت. نیازمند ارزیابی انطباق، مدیریت ریسک، لاگ‌برداری و شفافیت.
- مدلهای هوش مصنوعی همه‌منظوره (GPAI). اعمال‌شده از 2 اوت 2025. همه‌ی ارائه‌دهندگان GPAI تعهداتی دارند؛ ارائه‌دهندگان GPAI با ریسک سیستمیک (توان محاسباتی آموزش بیش از 1e25 FLOP) مشمول تعهدات تکمیلی هستند.
- سیستم‌های با ریسک محدود. تعهدات شفافیت ذیل ماده‌ی 50 (برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی). اعمال‌شده از 2 اوت 2026.
جدول زمانی:
- 2 فوریه 2025: شیوه‌های ممنوعه + سواد هوش مصنوعی.
- 2 اوت 2025: GPAI + حاکمیت.
- 2 اوت 2026: شمول کامل + شفافیت ماده‌ی 50 + جریمه تا 15 میلیون یورو / 3% گردش مالی جهانی.
- 2 اوت 2027: GPAIهای قدیمی + سیستم‌های پرریسک تعبیه‌شده.
کمیسیون در اواخر سال 2025 پیشنهاد کرد جدول زمانی سیستم‌های پرریسک به 16 ماه تعدیل شود.
مجموعه‌مقررات رفتاری GPAI
منتشرشده در 10 ژوئیه 2025. سه فصل دارد:
- شفافیت. همه‌ی ارائه‌دهندگان GPAI.
- حق نشر. همه‌ی ارائه‌دهندگان GPAI.
- ایمنی و امنیت. ارائه‌دهندگان GPAI با ریسک سیستمیک (تخمین زده می‌شود حدود 5 تا 15 شرکت باشند).
مجموعاً شامل 12 تعهد است. یک کارگروه امضاکنندگان (Signatory Taskforce) به ریاست دفتر هوش مصنوعی، اجرای آن را مدیریت می‌کند. اعمال قانون از 2 اوت 2026 آغاز می‌شود؛ تا آن زمان، انطباق مبتنی بر حسن نیت پذیرفته است.
آیین‌نامه‌ی شفافیت برای ماده‌ی 50
پیش‌نویس اول در 17 دسامبر 2025، پیش‌نویس دوم در مارس 2026 و نسخه‌ی نهایی در ژوئن 2026 منتشر شد. این آیین‌نامه برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی از جمله دیپ‌فیک‌ها را پوشش می‌دهد؛ همان لایه‌ی مقرراتی که به فناوری واترمارک‌گذاری (Watermarking) درس 23 نیاز دارد.
موسسه‌ی امنیت هوش مصنوعی بریتانیا (فوریه 2025)
تغییرنام‌یافته از موسسه‌ی «ایمنی» هوش مصنوعی (AI Safety Institute). این تغییر نام دامنه را محدودتر می‌کند: چهارچوب‌های سوگیری الگوریتمی و آزادی بیان را کنار می‌گذارد و روی امنیت قابلیت‌های مرزی (Frontier capabilities) متمرکز می‌شود. این نهاد ابزار ارزیابی Inspect را به‌صورت متن‌باز منتشر کرد (مه 2024) و در زمینه‌ی پرونده‌های ایمنی کنترل، با Redwood (درس 10) همکاری دارد.
مرکز CAISI آمریکا (ژوئن 2025)
دولت ترامپ موسسه‌ی ایمنی هوش مصنوعی ذیل NIST را به «مرکز استانداردها و نوآوری هوش مصنوعی» تبدیل کرد. طبق اظهارات معاون رئیس‌جمهور، ونس، در نشست اقدام هوش مصنوعی پاریس، این تغییر نشان‌دهنده‌ی چرخش به‌سمت «سیاست‌های هوش مصنوعی حامی رشد» است. کاهش تأکید بر ارزیابی‌های پیش از استقرار و تأکید بیشتر بر حمایت از استانداردها و نوآوری، وزنه‌ای داخلی در برابر رویکرد نظارتی قانون هوش مصنوعی اتحادیه‌ی اروپا ایجاد کرد.
قانون چارچوب هوش مصنوعی کره‌ی جنوبی
تصویب در دسامبر 2024، رسمیت‌یافتن در ژانویه 2025، لازم‌الاجرا از ژانویه 2026. این قانون 19 طرح مجزای هوش مصنوعی را یکپارچه کرد.
ماده‌ی 12 یک AISI ذیل وزارت علوم و فناوری اطلاعات و ارتباطات (MSIT) تأسیس می‌کند و این موارد را الزامی می‌سازد:
- داشتن نمایندگان محلی برای شرکتهای هوش مصنوعی خارجی فعال در کره.
- ارزیابی ریسک برای سیستم‌های هوش مصنوعی «پرتاثیر» (High-impact).
- تدابیر ایمنی برای هوش مصنوعی زاینده و هوش مصنوعی پرتاثیر.
کره نخستین حوزه‌ی قضایی در آسیا است که قانون‌گذاری جامع و افقی برای هوش مصنوعی دارد.
پویایی میان حوزه‌های قضایی مختلف
- اتحادیه‌ی اروپا: سخت‌گیرانه، چندسطحی بر اساس ریسک، با جریمه‌های سنگین؛ معیاری برای مقررات مرتبط با حریم خصوصی.
- آمریکا: حامی نوآوری، نامتمرکز؛ ایالت‌ها (مثلاً لایحه‌ی AB 2013 کالیفرنیا — درس 27) خلأهای فدرال را پر می‌کنند.
- بریتانیا: دامنه‌ی متمرکز بر امنیت، زیرساخت ارزیابی قوی.
- کره: تحت هدایت MSIT، با تمرکز بر ارائه‌دهندگان خارجی.
فلسفه‌های نظارتی متفاوتی در برابر هم قرار گرفته‌اند. کسانی که سیستم‌ها را در چندین حوزه‌ی قضایی مستقر می‌کنند، ناچارند از سخت‌گیرانه‌ترین آنها تبعیت کنند؛ که در سال 2026 معمولاً قانون هوش مصنوعی اتحادیه‌ی اروپا است.
جایگاه این مبحث در فاز 18
درس 18 به حاکمیت داوطلبانه‌ی آزمایشگاهی می‌پردازد؛ درس 24 مباحث نظارتی و قانونی را پوشش می‌دهد؛ درس 25 دسته‌ی نوظهوری از CVEها را برای سیستم‌های هوش مصنوعی بررسی می‌کند؛ و درس‌های 26 و 27 مستندسازی (کارت‌ها) و حاکمیت داده‌های آموزشی را در بر میگیرند.
استفاده از ابزارهای واقعی
کدی در کار نیست. منابع اصلی قانون هوش مصنوعی اتحادیه‌ی اروپا را بخوانید: متن قانون، مجموعه‌مقررات رفتاری GPAI و چارچوب Inspect متعلق به UK AISI. سیستم مستقرشده‌ی خود را با الزامات قابل اعمال در هر حوزه‌ی قضایی تطبیق دهید.
خروجی این درس
این درس فایل outputs/skill-regulatory-map.md را تولید می‌کند. این خروجی با دریافت شرح یک استقرار، حوزه‌های قضایی مربوطه، رده‌بندی سطوح در هر کدام، الزامات خاص هر حوزه و ساختار مهلت‌های قانونی را مشخص می‌کند.
تمرین‌ها
-
متن قانون هوش مصنوعی اتحادیه‌ی اروپا (آیین‌نامه‌ی 2024/1689) و مجموعه‌مقررات رفتاری GPAI (مصوب 10 ژوئیه 2025) را بخوانید. سه تعهدی را که برای همه‌ی ارائه‌دهندگان GPAI اعمال می‌شود و سه تعهدی را که فقط به GPAIهای دارای ریسک سیستمیک مربوط است، مشخص کنید.
-
سیستمی را در نظر بگیرید که یک شرکت آمریکایی آن را مستقر کرده، روی زیرساخت اتحادیه‌ی اروپا اجرا می‌شود و به کاربران کره‌ای سرویس می‌دهد. قوانین کدام سه حوزه‌ی قضایی اعمال می‌شود، و در هر مسئله‌ی ماهوی، قانون کدام حوزه الزامآور است؟
-
تغییر نام موسسه‌ی امنیت هوش مصنوعی بریتانیا دامنه‌ی فعالیت آن را محدودتر می‌کند. دلایل موافق و مخالف این رویکرد محدودتر را مطرح کنید و فرض سیاستی پشت هر موضع را توضیح دهید.
-
رویکرد «حامی رشد» در CAISI با مدل موسسات ایمنی هوش مصنوعی در سال‌های 2022 تا 2024 تفاوت دارد. دو تغییر سیاستی ملموس و قابل اندازه‌گیری را مشخص کنید که در ادامه‌ی این رویکرد ایجاد میشوند.
-
قانون چارچوب هوش مصنوعی کره ارائه‌دهندگان خارجی را به داشتن نماینده‌ی محلی ملزم می‌کند. پیامدهای عملیاتی این الزام را برای شرکتی در منطقه‌ی خلیج سان‌فرانسیسکو که به کاربران کره‌ای خدمات می‌دهد شرح دهید.
اصطلاحات کلیدی
| اصطلاح | در گفتار عامیانه | معنای دقیق فنی |
|---|---|---|
| EU AI Act | «قانون مقررات» | مقررات افقی هوش مصنوعی بر پایه‌ی سطوح ریسک؛ لازم‌الاجرا از اوت 2024 |
| GPAI | «هوش مصنوعی همه‌منظوره» | مدلهای پایهای بزرگ؛ زیرمجموعه‌ی دارای ریسک سیستمیک تعهدات مضاعفی دارد |
| Article 50 | «تعهدات شفافیت» | برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی؛ لازم‌الاجرا از اوت 2026 |
| UK AISI | «موسسه‌ی امنیت هوش مصنوعی» | تغییرنام‌یافته در فوریه 2025؛ تمرکز محدودتر روی امنیت قابلیت‌های مرزی |
| CAISI | «مرکز استانداردهای هوش مصنوعی آمریکا» | تغییرنام‌یافته در ژوئن 2025 از موسسه‌ی ایمنی هوش مصنوعی؛ با رویکرد حامی رشد |
| Korean AI Framework Act | «مقررات افقی MSIT» | نخستین قانون جامع هوش مصنوعی در آسیا؛ لازم‌الاجرا از ژانویه 2026 |
| Systemic-risk GPAI | «آستانه‌ی 1e25 فِلاپس» | سطح تعهدات مازاد؛ تخمین زده می‌شود 5 تا 15 شرکت مشمول آن شوند |
برای مطالعه‌ی بیشتر
- متن قانون هوش مصنوعی اتحادیه‌ی اروپا (آیین‌نامه‌ی 2024/1689) — متن قانون و جدول زمانی
- مجموعه‌مقررات رفتاری GPAI (مصوب 10 ژوئیه 2025) — سند سه‌فصلی
- موسسه‌ی امنیت هوش مصنوعی بریتانیا (تغییرنام‌یافته در فوریه 2025) — صفحه‌ی رسمی
- تحلیل CSET بر قانون چارچوب هوش مصنوعی کره‌ی جنوبی (2025) — تحلیل چارچوب حقوقی کره