مستندسازی مدل، دیتاست و سیستم: راهنمای Model Card و Data Card

در چرخه‌ی حیات مدل‌های هوش مصنوعی، ساخت یک معماری دقیق یا رسیدن به دقت بالا فقط نیمی از مسیر است؛ نیم دیگر که پایداری و پذیرش محصول را تضمین می‌کند، شفافیت و مستندسازی دقیق است. بدون شناخت محدودیت‌ها، ریسک‌ها و داده‌های زیربنایی، پیاده‌سازی این سیستم‌ها در محیط واقعی با خطرات امنیتی و فنی جدی همراه خواهد بود.

این درس به معرفی و مقایسه‌ی استانداردهای مطرح مستندسازی در یادگیری ماشین می‌پردازد: کارت مدل (Model Card)، برگه‌ی اطلاعات دیتاست (Datasheet)، کارت داده (Data Card) و در نهایت کارت سیستم (System Card). همچنین ابزارها و رویکردهای نوینی چون تولید خودکار با مدل‌های زبانی و تاییدیه‌های رمزنگاری‌شده بررسی می‌شوند تا مستندسازی از قالبی صوری به ابزاری عملیاتی تبدیل شود.

سه ساختار مستندسازی، چارچوب شفافیت هوش مصنوعی را شکل می‌دهند. کارت مدل (Model Card، میچل و همکاران، 2019) — برچسب ارزش غذایی برای مدل‌ها: داده‌های آموزشی، تحلیل‌های کمّی تفکیک‌شده، ملاحظات اخلاقی و هشدارها؛ بررسی‌ها نشان می‌دهد تنها 0.3% از کارت‌های مدل در Hugging Face ملاحظات اخلاقی را ثبت کرده‌اند (اورامونو و همکاران، 2023). برگه‌ی اطلاعات دیتاست (Datasheets for Datasets، گبرو و همکاران، 2018 در CACM) — انگیزه، ترکیب، فرایند جمع‌آوری، برچسب‌گذاری، توزیع و نگهداری؛ با الگوبرداری از برگه‌ی مشخصات قطعات الکترونیکی. کارت داده (Data Card، پوشکارنا و همکاران، گوگل 2022) — جزئیات لایه‌بندی‌شده و ماژولار (تلسکوپی، پریسکوپی، میکروسکوپی) در قالب اشیای مرزی (Boundary objects) برای مخاطبان گوناگون. تحولات 2024-2025: تولید خودکار با مدل‌های زبانی بزرگ (CardGen، لیو و همکاران، 2024)؛ همبستگی جزئیات کارت مدل با افزایش دانلود تا 29% در HF (لیانگ و همکاران، 2024)؛ تاییدیه‌های قابل‌راستی‌آزمایی (Laminator، دودو و همکاران، 2024)؛ افزوده‌شدن گزارش‌های پایداری برای ردپای کربن و آب (ژونو و همکاران، ژوئیه 2025)؛ شکل‌گیری کارت‌های منطبق بر مقررات EU و ISO. کارت سیستم (System Card، سیدپوروالا، 2024؛ شفافیت در سطح سیستم متا؛ «Blueprints of Trust» با شناسه arXiv:2509.20394) — مستندسازی سرتاسری (End-to-end) سیستم هوش مصنوعی شامل قابلیت‌های امنیتی، محافظت در برابر تزریق پرامپت (Prompt injection)، تشخیص نشت داده‌ها و هم‌راستایی با ارزش‌های انسانی.

اهداف یادگیری

• کارت مدل اصلی میچل و همکاران (2019) و برگه‌ی اطلاعات گبرو و همکاران (2018) را شرح دهید.
• ساختار لایه‌بندی تلسکوپی/پریسکوپی/میکروسکوپی در کارت‌های داده را توضیح دهید.
• کارت‌های سیستم و دامنه‌ی پوشش سرتاسری آن‌ها را توصیف کنید.
• سه مورد از تحولات سال‌های 2024-2025 را نام ببرید (تولید خودکار، تاییدیه‌های قابل‌راستی‌آزمایی، گزارش‌دهی پایداری).

صورت‌مسئله

چارچوب‌های قانونی (درس 24) و خط‌مشی‌های ایمنی آزمایشگاه‌ها (درس 18) هر دو به مستندسازی نیاز دارند. قالب‌های مستندسازی به مرور زمان تکامل یافته‌اند: از سطح مدل (کارت‌های مدل) به سطح دیتاست (برگه‌های اطلاعات) و سپس به سطح کل سیستم (کارت‌های سیستم). هرکدام از این قالب‌ها دامنه‌ی متفاوتی از شفافیت را پوشش می‌دهند. تلاش‌های سال‌های 2024 و 2025 در زمینه‌ی خودکارسازی و تاییدیه‌های قابل‌راستی‌آزمایی، راه‌حلی برای مشکل دیرینه‌ی به‌کارگیریِ پایین این مستندات هستند.

مفاهیم پایه

کارت‌های مدل (میچل و همکاران، 2019)

بخش‌ها:

• جزئیات مدل (Model details).
• کاربرد مدنظر (Intended use).
• فاکتورها (فاکتورهای جمعیتی یا محیطی مرتبط برای ارزیابی).
• معیارها (Metrics).
• داده‌های ارزیابی (Evaluation data).
• داده‌های آموزشی (Training data).
• تحلیل‌های کمّی (تفکیک‌شده بر اساس فاکتورها).
• ملاحظات اخلاقی (Ethical considerations).
• هشدارها و توصیه‌ها (Caveats and recommendations).

مشکل به‌کارگیری: ممیزی اورامونو و همکاران در سال 2023 روی کارت‌های مدل پلتفرم Hugging Face نشان داد فقط 0.3% از آن‌ها ملاحظات اخلاقی را مستند کرده‌اند.

برگه‌ی اطلاعات برای دیتاست‌ها (گبرو و همکاران، 2018)

الگوبرداری از برگه‌ی مشخصات قطعات الکترونیکی. بخش‌ها:

• انگیزه (چرا دیتاست ایجاد شد).
• ترکیب (چه داده‌هایی درون آن است).
• فرایند جمع‌آوری (چگونه گردآوری شد).
• برچسب‌گذاری (در صورت کاربرد).
• کاربردها (مجاز، ممنوع، ریسک‌ها).
• توزیع (Distribution).
• نگهداری (Maintenance).

این مقاله در سال 2021 در CACM منتشر شد. برگه‌ی اطلاعات، مستند بالادستی به حساب می‌آید؛ بنابراین درستی کارت مدل وابسته به دقیق‌بودن برگه‌ی اطلاعات است.

کارت‌های داده (پوشکارنا و همکاران، گوگل 2022)

جزئیات ماژولار و لایه‌بندی‌شده. سه سطح بزرگ‌نمایی:

• تلسکوپی (Telescopic): خلاصه‌ای کلان برای افراد غیرمتخصص.
• پریسکوپی (Periscopic): دید کلی در سطح متوسط برای متخصصان یادگیری ماشین.
• میکروسکوپی (Microscopic): مستندات دقیق در سطح ویژگی‌ها برای ممیزان.

چارچوب شیء مرزی (Boundary object): خوانندگان مختلف، اطلاعات متفاوتی از یک سند واحد استخراج می‌کنند.

کارت‌های سیستم

دامنه: سیستم سرتاسری هوش مصنوعی شامل مدل + پشته‌ی ایمنی + بستر استقرار. بخش‌ها معمولاً شامل این موارد است:

• قابلیت‌های امنیتی.
• محافظت در برابر تزریق پرامپت.
• تشخیص نشت داده‌ها.
• هم‌راستایی با ارزش‌های انسانی تصریح‌شده.
• پاسخ به رخداد (Incident response).

کارهای سیدپوروالا در سال 2024 و اقدامات متا در شفافیت سطح سیستم، نمونه‌های شاخص این رویکرد هستند. مقاله‌ی «Blueprints of Trust» (با شناسه arXiv:2509.20394) کارت سیستم را به‌عنوان مکمل لایه‌ی استقرار برای کارت‌های مدل صورتبندی می‌کند.

تحولات 2024-2025

• CardGen (لیو و همکاران، 2024): تولید خودکار کارت مدل با LLMها؛ این ابزار در فیلدهای استاندارد میچل 2019 عینیّت بالاتری نسبت به بسیاری از کارت‌های نوشته‌شده به‌دست انسان ثبت کرده است.
• همبستگی با میزان دانلود (لیانگ و همکاران، 2024): کارت‌های مدل با جزئیات کامل، با افزایش تا 29% در نرخ دانلود HF همبستگی دارند — فشار برای ثبت مستندات اکنون علاوه‌بر الزامات قانونی، از سوی بازار نیز هدایت می‌شود.
• Laminator (دودو و همکاران، 2024): تاییدیه‌های قابل‌راستی‌آزمایی با استفاده از محیط‌های اجرای امن سخت‌افزاری (TEE) و امضاهای رمزنگاری‌شده — این روش به کارت مدل امکان می‌دهد به‌جای یک ادعای صِرف، اثباتِ ادعا (Proof-of-claim) ارائه کند.
• پایداری (ژونو و همکاران، ژوئیه 2025): بخش‌های جدید برای ثبت ردپای کربن، آب و انرژی مصرفی پردازش؛ استانداردهای نوظهور ISO.
• کارت‌های منطبق بر مقررات: فصل شفافیت آیین‌نامه‌ی اجرایی مدل‌های هوش مصنوعی با اهداف عمومی (GPAI) در قانون هوش مصنوعی اتحادیه اروپا (درس 24)، کارت مدل را به‌عنوان یک دست‌سازه الزامی برای انطباق قانونی تعیین کرده است.

جایگاه این مبحث در فاز 18

درس‌های 24 و 25 به لایه‌های مقررات و CVE اختصاص دارند. درس 26 لایه‌ی مستندسازی است. درس 27 حاکمیت داده‌های آموزشی را بررسی می‌کند که بالادست برگه‌ی اطلاعات دیتاست به شمار می‌رود. درس 28 نیز اکوسیستم پژوهشی تولیدکننده‌ی ارزیابی‌های مندرج در این کارت‌ها را پوشش می‌دهد.

استفاده از ابزارهای واقعی

فایل code/main.py یک کارت مدل، برگه‌ی اطلاعات و کارت سیستم کمینه را برای نمونه‌ای ساده از استقرار تولید می‌کند. هرکدام ساختار بخش‌های استاندارد را دنبال می‌کنند. می‌توانید فرمت آن‌ها را بررسی و دامنه‌ی پوشش این سه قالب را با یکدیگر مقایسه کنید.

خروجی این درس

این درس فایل outputs/skill-card-audit.md را ایجاد می‌کند. این برنامه با دریافت یک کارت مدل، برگه‌ی اطلاعات یا کارت سیستم، میزان پوشش بخش‌ها، تفکیک عددی تحلیل‌ها و وجود تاییدیه‌های قابل‌راستی‌آزمایی را ممیزی می‌کند.

تمرین‌ها

1. اسکریپت code/main.py را اجرا کنید. کارت‌های تولیدشده را بررسی کنید. بخش‌های ضعیف (که فقط متن پیش‌فرض دارند) را مشخص کرده و بنویسید چه شواهدی می‌تواند آن‌ها را تقویت کند.

2. کارت مدل را با یک تحلیل کمّی تفکیک‌شده روی دو گروه جمعیتی گسترش دهید (درس 20).

3. مقاله‌ی اورامونو و همکاران (2023) درباره‌ی نرخ به‌کارگیری 0.3 درصدی را مطالعه کنید. یک تغییر ساختاری در مشخصات کارت مدل پیشنهاد دهید که میزان تکمیل بخش ملاحظات اخلاقی را بالا ببرد.

4. ابزار Laminator (دودو و همکاران، 2024) از TEEها برای تاییدیه‌های قابل‌راستی‌آزمایی استفاده می‌کند. فیلدی برای کارت مدل طراحی کنید که تاییدیه رمزنگاری‌شده‌ی نتیجه‌ی یک ارزیابی را نگه دارد و نقش مدل اعتبارسنج را توضیح دهید.

5. برای یکی از پروژه‌های قبلی خود یا یک سناریوی استقرار فرضی، یک کارت سیستم (دقت کنید: کارت سیستم، نه کارت مدل) بنویسید. باارزش‌ترین بخش آن را از دید ممیزان مستقل بیرونی مشخص کنید.

اصطلاحات کلیدی

برای مطالعه‌ی بیشتر

• Mitchell et al. — Model Cards for Model Reporting (arXiv:1810.03993, FAT* 2019) — مقاله‌ی اصلی کارت مدل
• Gebru et al. — Datasheets for Datasets (CACM 2021, arXiv:1803.09010) — مقاله‌ی برگه‌ی اطلاعات دیتاست
• Pushkarna et al. — Data Cards (Google 2022) — مستندسازی لایه‌ای داده‌ها
• Sidhpurwala et al. — Blueprints of Trust (arXiv:2509.20394) — صورتبندی رسمی کارت سیستم