منشأ داده و حکمرانی داده‌های آموزشی هوش مصنوعی

اگر تا دیروز چالش تیم‌های هوش مصنوعی صرفاً جمع‌آوری حجم عظیمی از متون وب برای آموزش مدل‌ها بود، امروز انطباق با مقررات سخت‌گیرانه‌ی جهانی به دغدغه‌ی اصلی تبدیل شده است. قوانین جدید بین‌المللی نظیر قانون AB 2013 کالیفرنیا و دستورالعمل‌های اتحادیه اروپا، توسعه‌دهندگان را ملزم به شفاف‌سازی دقیق منشأ داده‌ها و ارائه‌ی مکانیزم‌های انصراف کرده‌اند.

چالش کلیدی در مدل‌های یادگیری عمیق، مسئله‌ی «برگشت‌ناپذیری» است. بر خلاف پایگاه‌های داده‌ی مرسوم که در آن‌ها اجرای حق فراموشی یا حذف داده با یک کوئری ساده انجام می‌شود، در شبکه‌های عصبی حذف داده‌ای که در وزن‌های مدل ذوب شده، عملاً غیرممکن است. این یعنی پنجره‌ی رعایت الزامات حقوقی و حریم خصوصی فقط و فقط پیش از آغاز آموزش و در مرحله‌ی جمع‌آوری داده باز است.

در این درس یاد می‌گیرید چگونه چارچوب شفافیت 12 فیلدی را پیاده‌سازی کنید، سازوکارهای انصراف ماشین‌خوان را بشناسید و ریسک‌های حقوقی داده‌های آموزشی را پیش از شروع آموزش مدل مدیریت کنید.

قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) الزام می‌کند استانداردهای ماشین‌خوان انصراف (opt-out) برای GPAI تا اوت 2025 (از طریق استثنای استخراج متن و داده [TDM] در دستورالعمل حق نشر اتحادیه اروپا) اجرایی شوند. قانون AB 2013 کالیفرنیا (امضاشده در 2024) —شفافیت داده‌های آموزشی هوش مصنوعی مولد، توسعه‌دهندگان را موظف می‌کند خلاصه‌ای از مجموعه‌داده‌ها را با 12 فیلد الزامی منتشر کنند. همگرایی مراجع حفاظت از داده (DPA) در سال 2025 درباره‌ی «منافع مشروع» (legitimate interest): مرجع DPC ایرلند (21 مه 2025) آموزش مدل‌های زبانی بزرگ (LLM) شرکت Meta بر روی محتوای عمومی دست‌اول کاربران بزرگسال در اتحادیه اروپا/منطقه اقتصادی اروپا را با در نظر گرفتن تدابیر محافظتی و پس از اعلام نظر EDPB پذیرفت؛ دادگاه عالی منطقه‌ای کلن (23 مه 2025) درخواست دستور موقت را رد کرد؛ DPA هامبورگ رویه‌ی اضطراری را کنار گذاشت؛ مرجع ICO بریتانیا (23 سپتامبر 2025) به تمهیدات حفاظتی LinkedIn برای آموزش هوش مصنوعی (شفافیت، انصراف ساده‌سازی‌شده، بازه‌های زمانی طولانی‌تر برای اعتراض) پاسخ نظارتی مثبتی داد و نظارت را ادامه می‌دهد—نه به‌عنوان یک تأیید رسمی و قطعی. مرجع ANPD برزیل (2 ژوئیه 2024) فرایند پردازش داده‌های Meta را به دلیل شفافیت ناکافی اطلاعات به حالت تعلیق درآورد؛ این اقدام پیشگیرانه در 30 اوت 2024 و پس از ارائه‌ی برنامه‌ی انطباق از سوی Meta لغو شد. مسئله‌ی اساسیِ برگشت‌ناپذیری (irreversibility): چارچوب‌های رضایت کوکی برای ردیابی بلادرنگ و برگشت‌پذیر طراحی شده‌اند؛ هنگامی که داده وارد وزن‌های مدل شد، حذف دقیق و جراحی‌گونه‌ی آن ناممکن است—در شبکه‌های عصبیِ آموزش‌دیده، چیزی به نام حق حذف GDPR عملاً وجود ندارد. پنجره‌ی رعایت الزامات فقط در زمان جمع‌آوری داده باز است. پروژه منشأ و سندیت داده (Data Provenance Initiative یا dataprovenance.org، لانگ‌پر، مهاری، لی و همکاران، «بحران رضایت»، ژوئیه 2024): این ممیزی گسترده نشان می‌دهد با اضافه شدن محدودیت‌های robots.txt از سوی ناشران، منابع عمومی داده‌های هوش مصنوعی به‌سرعت رو به افول است.

اهداف یادگیری

• تشریح 12 فیلد الزامی قانون AB 2013 کالیفرنیا برای شفافیت داده‌های آموزشی هوش مصنوعی مولد.
• بیان موضع مراجع DPA در سال 2025 درباره‌ی آموزش LLM با تکیه بر منافع مشروع (DPC ایرلند، ICO بریتانیا، هامبورگ، کلن).
• تشریح مسئله‌ی برگشت‌ناپذیری: چرا حق حذف GDPR برای شبکه‌های عصبی آموزش‌دیده معادل عملی ندارد.
• بیان یافته‌های گزارش «بحران رضایت» از سوی Data Provenance Initiative.

صورت مسئله

حکمرانی داده‌های آموزشی، بالادستِ همه‌ی شناسنامه‌های مدل (Model Cards، درس 26) و الزامات قانونی (درس 24) است. در سال‌های 2024 تا 2025، فضای مقرراتی حول سه اصل تثبیت شد: زیرساخت انصراف، افشاسازی به تفکیک مجموعه‌داده، و پذیرش منافع مشروع برای داده‌های دردسترس عموم. ارائه‌دهندگانی که در زمان جمع‌آوری به این قوانین پایبند نباشند، در مراحل بعدی هیچ راهی برای جبران ندارند.

مفاهیم پایه

قانون AB 2013 کالیفرنیا

این قانون در سال 2024 امضا شد. مستندات مربوط به سیستم‌هایی که در 1 ژانویه 2022 یا پس از آن عرضه شده‌اند، باید حداکثر تا 1 ژانویه 2026 منتشر شوند. بخش 3111(a) توسعه‌دهندگان را موظف می‌کند خلاصه‌ای کلی از مجموعه‌داده‌های استفاده‌شده در آموزش را با 12 بند قانونی منتشر کنند:

1. منابع یا مالکان مجموعه‌داده‌ها.
2. توضیحی درباره‌ی اینکه مجموعه‌داده‌ها چگونه هدف موردنظر سیستم هوش مصنوعی را پیش می‌برند.
3. تعداد نمونه‌های داده در مجموعه‌داده‌ها (بازه‌های تقریبی پذیرفته است؛ تخمین برای مجموعه‌داده‌های پویا).
4. توصیف انواع نمونه‌های داده (انواع برچسب‌ها برای داده‌های برچسب‌دار؛ ویژگی‌های کلی برای داده‌های بدون برچسب).
5. مشخص کردن اینکه آیا مجموعه‌داده‌ها شامل داده‌های تحت حفاظت حق نشر، نشان تجاری یا پتنت هستند، یا کاملاً در مالکیت عمومی قرار دارند.
6. خریداری یا دریافت مجوز (لایسنس) برای مجموعه‌داده‌ها.
7. وجود اطلاعات شخصی (طبق قانون مدنی کالیفرنیا، بخش 1798.140(v)).
8. وجود اطلاعات تجمیعی مصرف‌کنندگان (طبق قانون مدنی کالیفرنیا، بخش 1798.140(b)).
9. پاک‌سازی، پردازش، یا هرگونه تغییر اعمال‌شده توسط توسعه‌دهنده به همراه هدف آن.
10. بازه‌ی زمانی جمع‌آوری داده‌ها، به‌همراه قید ادامه‌دار بودن فرایند جمع‌آوری در صورت تداوم.
11. تاریخ‌هایی که مجموعه‌داده‌ها برای نخستین‌بار در طول فرایند توسعه به کار رفتند.
12. استفاده یا استفاده‌ی مداوم سیستم از تولید داده‌های مصنوعی (synthetic data).

بند 12 (داده‌های مصنوعی) نسبت به برگه‌های داده‌ی گبرو و همکاران (2018) یک الزام جدید است. بند 7 (اطلاعات شخصی) تعهدات قانون حقوق حریم خصوصی کالیفرنیا (CPRA) را فعال می‌کند. این قانون، سیستم‌های امنیتی/حفظ سلامت سامانه، عملیات پروازی و سیستم‌های امنیت ملیِ صرفاً فدرال را مستثنی کرده است (بخش 3111(b)).

قانون هوش مصنوعی اتحادیه اروپا (درس 24) و انصراف از TDM

استثنای استخراج متن و داده (TDM) در دستورالعمل حق نشر اتحادیه اروپا، آموزش روی محتوای دردسترس عموم را مجاز می‌داند، مگر اینکه دارنده‌ی حق نشر انصراف خود را اعلام کرده باشد. فصل حق نشر در نظام‌نامه‌ی اجرایی هوش مصنوعی همه‌منظوره (GPAI Code of Practice) ارائه‌دهندگان GPAI را ملزم می‌کند به سیگنال‌های ماشین‌خوانِ انصراف (مانند robots.txt، ادعای «No AI Training» در پروتکل C2PA و موارد مشابه) احترام بگذارند.

همگرایی مراجع DPA در سال 2025 حول منافع مشروع

مرجع DPC ایرلند (21 مه 2025): برنامه‌ی Meta برای آموزش مدل روی محتوای عمومی دست‌اول کاربران بزرگسال در اتحادیه اروپا/منطقه اقتصادی اروپا، پس از اعلام نظر EDPB و با اعمال تدابیر حفاظتی پذیرفته شد. دادگاه عالی منطقه‌ای کلن (23 مه 2025) درخواست دستور موقت علیه Meta را رد کرد: امکان انصراف کفایت می‌کند. مرجع DPA هامبورگ برای حفظ هماهنگی در سطح کل اتحادیه اروپا از پیگیری روند اضطراری دست کشید. مرجع ICO بریتانیا (23 سپتامبر 2025) به ازسرگیری آموزش هوش مصنوعی LinkedIn با تدابیر مشابه و نظارت مداوم، پاسخ نظارتی مثبتی داد که البته تأیید رسمی نهایی محسوب نمی‌شود.

اصل مشترکِ حاصل از این تصمیم‌ها: منافع مشروع می‌تواند آموزش روی محتوای عمومی دست‌اول را مشروط به وجود امکان انصراف توجیه کند. در این شرایط، رضایت صریح الزامی نیست.

مرجع ANPD برزیل (ژوئیه 2024)

این مرجع فرایند پردازش داده‌های کاربران برزیلی توسط Meta برای آموزش هوش مصنوعی را به دلیل عدم شفافیت کافی اطلاعات تعلیق کرد؛ نتیجه‌ای متفاوت با مراجع اروپایی—ANPD شفافیت را بر پذیرش منافع مشروع ارجح دانست.

مسئله‌ی برگشت‌ناپذیری

سیستم رضایت کوکی برای ردیابی بلادرنگ و برگشت‌پذیر طراحی شده است. داده‌های آموزشی فرق دارند: وقتی داده وارد وزن‌های مدل شد، حذف دقیق و جراحی‌گونه‌ی آن ممکن نیست. تنها راه جبرانِ کامل، آموزش دوباره‌ی مدل از صفر است که هزینه‌اش سرسام‌آور تمام می‌شود.

روش‌های جبران نسبی:

• فراموشی آموخته‌ها (Unlearning): حذف تقریبی؛ سنجش با حملات استنتاج عضویت (MIA، درس 22).
• مکان‌یابی بر پایه‌ی تابع اثر (Influence Function): شناسایی وزن‌هایی که بیشترین اثرپذیری را از داده داشته‌اند و به‌روزرسانی گزینشی آن‌ها.
• سرکوب با تنظیم دقیق (Fine-tune-suppression): آموزش دادن به مدل برای پس زدن خروجی‌هایی که از آن داده‌ی مشخص مشتق می‌شوند.

هیچ‌کدام مسئله را به‌طور کامل حل نمی‌کنند. پنجره‌ی رعایت الزامات فقط در زمان جمع‌آوری باز است.

پروژه منشأ و سندیت داده

وبگاه dataprovenance.org؛ لانگ‌پر، مهاری، لی و همکاران، «بحران رضایت» (ژوئیه 2024): ممیزی در مقیاس وسیع از منابع عمومی داده‌های آموزش هوش مصنوعی. نتیجه: ناشران با سرعتی فزاینده در حال اضافه کردن محدودیت‌های robots.txt هستند. منابع عمومی که آموزش آزادانه روی آن‌ها ممکن بود، به‌سرعت در حال تحلیل رفتن هستند. در فاصله‌ی 2023 تا 2024، حدود 25% از منابع اصلی داده‌های آموزشی محدودیت‌هایی اضافه کردند. پیامد: دسترسی به داده‌های آموزشی در آینده به پارادایم‌های جدید جمع‌آوری (لایسنس، تولید داده‌ی مصنوعی و مشارکت همراه با مشوق) وابسته خواهد بود.

جایگاه این درس در فاز 18

درس 26 به مستندسازی در سطح مدل اختصاص دارد. درس 27 به حکمرانی در سطح مجموعه‌داده می‌پردازد. این دو در کنار هم لایه‌ی شفافیت را شکل می‌دهند. درس 28 نیز زیست‌بوم پژوهشیِ فعال روی این پرسش‌ها را ترسیم می‌کند.

به کار ببندید

فایل code/main.py یک قالب خلاصه‌سازی 12 فیلدی سازگار با قانون AB 2013 کالیفرنیا برای یک مجموعه‌داده‌ی نمونه تولید می‌کند. می‌توانید این فیلدها را پر کنید و ببینید کدام‌یک تعهدات بعدی در زمینه‌ی حریم خصوصی یا حق نشر را فعال می‌کنند.

محصول نهایی

این درس فایل outputs/skill-provenance-check.md را تولید می‌کند. این خروجی با دریافت یک مجموعه‌داده‌ی استفاده‌شده در آموزش، پوشش 12 فیلد قانون AB 2013، انطباق با زیرساخت انصراف، هم‌راستایی با مراجع DPA و ریسک برگشت‌ناپذیری آن را بررسی می‌کند.

تمرین‌ها

1. اسکریپت code/main.py را اجرا کنید. یک خلاصه‌ی 12 فیلدی برای یک مجموعه‌داده‌ی نمونه بسازید و مشخص کنید کدام فیلدها به اندازه‌ی کافی توضیح داده نشده‌اند.

2. انصراف از استخراج متن و داده (TDM) در دستورالعمل حق نشر اتحادیه اروپا ماهیتی ماشین‌خوان دارد. یک قالب استاندارد برای سیگنال انصراف پیشنهاد دهید و آن را با robots.txt و شناسه C2PA با عنوان «No AI Training» مقایسه کنید.

3. گزارش «بحران رضایت» از Data Provenance Initiative (ژوئیه 2024) را بخوانید. سه دسته‌بندی از محتوا را که با بیشترین سرعت محدود شده‌اند تشریح کنید و برای یکی از پیامدهای اقتصادی آن استدلال بیاورید.

4. همگرایی مراجع DPA در سال 2025 منافع مشروع را برای آموزش روی محتوای عمومی می‌پذیرد. سناریویی طراحی کنید که در آن منافع مشروع کفایت نکند و مشخص کنید در چنین حالتی ارائه‌دهنده به چه مبنای قانونی دیگری نیاز دارد.

5. طرح کلی یک مانیفست منشأ و سندیت داده‌های آموزشی را ترسیم کنید که فیلدهای AB 2013 را با یک زنجیره‌ی منشأ و سندیت امضاشده توسط C2PA برای هر مجموعه‌داده ترکیب کند. یک مانع فنی و یک مانع حقوقی در این مسیر را مشخص کنید.

اصطلاحات کلیدی

برای مطالعه‌ی بیشتر

• قانون AB 2013 کالیفرنیا — قانون شفافیت داده‌های آموزشی هوش مصنوعی مولد
• قانون هوش مصنوعی اتحادیه اروپا + نظام‌نامه‌ی GPAI (درس 24) — فصل حق نشر
• لانگ‌پر، مهاری، لی و همکاران — بحران رضایت (dataprovenance.org، ژوئیه 2024) — ممیزی DPI
• IAPP — اصلاحات GDPR در لایحه دیجیتال همه‌منظوره‌ی اتحادیه اروپا (2025) — بستر مقرراتی و حقوقی