مرجع R.3

یادداشت‌های آزمایشگاه

Lab notes

فهرست مطالب
  1. سخت‌افزار و ایمیج
  2. تنظیمات پیش‌فرض آزمایش‌ها
  3. آزمایش‌ها
  4. محافظ حرارتی
  5. قواعد محاسبه‌ی زمان
  6. بررسی خروجی‌های ذخیره‌شده
  7. مقایسه‌ی گام‌های متناظر
  8. نتایج حاصل از تک‌اجراها
  9. چرا نتیجه‌ی اولین مقایسه‌ی تخلیه‌ی حافظه معتبر نیست

مشخصات سرور، ایمیج، سیدها (seeds) و قواعد کنترل حرارتی پشت تک‌تک اعدادی که در این راهنما اندازه‌گیری شده‌اند.

این صفحه صرفاً یک مرجع است؛ نحوه‌ی ثبت هر عدد را شرح می‌دهد تا بتوانید آزمایش‌ها را تکرار کنید یا صحت نتایج را بسنجید.

سخت‌افزار و ایمیج

مشخصه مقدار
سخت‌افزار NVIDIA DGX Spark با یک پردازنده‌ی گرافیکی GB10 و 128 گیگابایت حافظه‌ی یکپارچه (Unified Memory)
حافظه‌ی گزارش‌شده توسط Ray 121.69 گیگابایت
ایمیج radixark/miles@sha256:c64fa344e3a86715f03c0a1b6a422c474e0035355591a2f6da87bf52a74c52da نسخه‌ی arm64
نسخه‌ی Miles داخل ایمیج شاخه‌ی اصلی با کامیت 08752a1283، مورخ 2026-10-15
نسخه‌ی SGLang داخل ایمیج 0.5.22.dev46+g7b6993a
مدل Qwen/Qwen3-0.6B (مگر اینکه در نام آزمایش، اندازه‌ی دیگری قید شده باشد)
داده‌ها پرامپت‌های GSM8K به‌همراه پاداش باینری حل مسئله‌ی ریاضی

تنظیمات پیش‌فرض آزمایش‌ها

در تمام آزمایش‌ها از این تنظیمات پیش‌فرض استفاده شده است، مگر اینکه در نام اجرای خاصی خلاف آن قید شده باشد:

تنظیمات مقدار
تعداد پرامپت در هر گام 32 (--rollout-batch-size)
تعداد پاسخ به‌ازای هر پرامپت 8 (--n-samples-per-prompt)
تعداد نمونه در هر گام بهینه‌ساز 256 (--global-batch-size)
سقف طول پاسخ 1,024 توکن
پارامتر دما (Temperature) 1
نرخ یادگیری (Learning rate) 1e-6 (ثابت)
آموزش‌دهنده روش FSDP روی یک پردازنده‌ی گرافیکی، هم‌مکان با موتور استنتاج
سهم حافظه‌ی موتور 0.4
باکت به‌روزرسانی وزن‌ها 536870912 بایت (معادل 512 مبی‌بایت)

آزمایش‌ها

نام آزمایش تعداد گام‌ها سید تغییرات اعمال‌شده
plain 12 پیش‌فرض بدون تغییر، قبل از پیاده‌سازی محافظ حرارتی
plain-48 48 پیش‌فرض بدون تغییر، قبل از پیاده‌سازی محافظ حرارتی
plain-48-s2, plain-48-s3 48 2, 3 بدون تغییر
e6a-base 12 1 بدون تغییر
e6b, e6c, e6d 12 1 استنتاج قطعی (Deterministic) با Triton، سپس FlashInfer و مجدداً Triton
e11-topp-topk 12 1 تنظیم top-p روی 0.95 و top-k روی 64
e3b, e3c, e3d 12 1 تخلیه‌ی فقط کش کلید-مقدار (KV cache)، نگه‌داشتن موتور در حافظه با سهم 0.25، نگه‌داشتن بخش آموزش در حافظه
e4-0.6b, e4-1.7b 4 1 قطع پاسخ‌ها در 256 توکن، تغییر اندازه مدل
e2-n4, e2-n16 24 1 4 و 16 پاسخ به‌ازای هر پرامپت
e3e, e3f 12 1 مقایسه‌ی دو اجرای هم‌زمان با سهم حافظه‌ی 0.25، یکی با تخلیه‌ی پیش‌فرض و دیگری با نگه‌داشتن موتور در حافظه
e2b-dapo-filter 12 1 فیلتر صفر-واریانس DAPO، با دسته‌های 48تایی پرامپت

چهار مورد از آزمایش‌ها با شکست مواجه شدند و در هیچ‌کدام از جدول‌ها نیامده‌اند: دو اجرای کاملاً هم‌سیاست (On-policy) که در همان ابتدای کار متوقف شدند، و دو اجرای Qwen3-4B که Ray آن‌ها را متوقف کرد. صف اجرای ما برای هر آزمایش یک سقف زمانی در نظر گرفته بود و با سررسیدن این مهلت، کانتینر را متوقف می‌کرد. آزمایش‌های e2-n16 و e2b-dapo-filter تمام گام‌های خود را تمام کرده بودند و درست در همان لحظه در حال خاموش‌شدن بودند. این دو مورد در خلاصه‌ی نهایی با عنوان ناقص علامت خورده‌اند.

محافظ حرارتی

پردازنده‌ی GB10 زیر بار مداوم به‌شدت داغ می‌کند؛ به همین دلیل، اسکریپتی نوشتیم که با رسیدن دمای پردازنده به 84 درجه‌ی سانتی‌گراد، کانتینر Miles را موقتاً متوقف (Pause) می‌کند. هر زمان که دما به 74 درجه یا کمتر برسد (به‌شرطی که حداقل 45 ثانیه یا حداکثر 120 ثانیه گذشته باشد)، اجرای کانتینر از سر گرفته می‌شود (Resume). در روز اول، این آستانه‌ها روی 80 و 68 درجه تنظیم شده بودند که همان روز صبح به 84 و 74 درجه تغییر یافتند. هر بار که کار این محافظ متوقف می‌شود، ابتدا کانتینر متوقف‌شده را به جریان می‌اندازد تا هیچ اجرایی متوقف نماند.

فایل لاگ توقف‌ها تا تاریخ 2026-10-22، تعداد 1,005 مورد توقف و ازسرگیری را ثبت کرده است.

قواعد محاسبه‌ی زمان

هر توقف، زمان واقعی (wall-clock) فازی را که در آن رخ می‌دهد طولانی‌تر می‌کند. بنابراین تمام زمان‌های این راهنما از روی گام‌هایی به دست آمده‌اند که هیچ توقفی به آن‌ها وارد نشده است، مگر در یک استثنا. آزمایش فیلتر DAPO در بخش 3.2 هیچ گام دست‌نخورده‌ای نداشت؛ به همین خاطر، در زمان‌های ثبت‌شده برای مسیر پیش‌روی شبیه‌سازی‌شده (Rollout) در این بخش، مدت‌زمان توقف‌ها را از هر گام کسر کردیم:

  • زمان شبیه‌سازی: بازه‌ی شبیه‌سازی در برچسب زمانیِ سطر سنجه‌های شبیه‌سازی پایان می‌یابد و مدت آن برابر با perf/rollout_time است. یک گام زمانی به حساب می‌آید که این بازه با هیچ توقفی همپوشانی (Overlap) نداشته باشد.
  • زمان کل گام: این بازه در برچسب زمانیِ سطر سنجه‌های بخش آموزش تمام می‌شود و مدت آن معادل perf/step_time است. این گام نیز تنها زمانی شمرده می‌شود که بازه‌ی زمانی‌اش هیچ همپوشانی با توقف‌ها نداشته باشد.

فایل خلاصه، میانه‌ی هر دو وضعیت (تمام گام‌ها و گام‌های دست‌نخورده) را به‌همراه تعداد گام‌های دست‌نخورده در کنار هرکدام ذخیره می‌کند. زیر تیغ محافظ حرارتی، کمتر گام کاملی بدون توقف قسر درمی‌رود؛ بنابراین، زمان‌های کلِ گام در این راهنما از آزمایش‌های plain و plain-48 استخراج شده‌اند. هر دو آزمایش قبل از پیاده‌سازی محافظ حرارتی اجرا شدند و عملاً هیچ توقفی به آن‌ها برخورد نکرد. آزمایش plain-48 در ساعت 00:11 روز 2026-10-18 تمام شد و محافظ حرارتی نخستین توقف خود را در ساعت 10:57 همان روز ثبت کرد.

بررسی خروجی‌های ذخیره‌شده

ابزار گردآوری لاگ‌ها (Capture kit) امکان بررسی خروجی‌های ذخیره‌شده را بدون نیاز به پردازنده‌ی گرافیکی فراهم می‌کند. این ابزار قاعده‌ی ناظر (Watchdog rule) را روی زمان‌های خطای ثبت‌شده در آزمایش 16 پاسخی بازپخش (Replay) می‌کند. علاوه بر این، توقف‌ها را مجدداً از فایل لاگِ توقف استخراج کرده و تمام میانه‌ها را از روی گام‌های ذخیره‌شده از نو حساب می‌کند. لاگ‌های خام آزمایش‌ها روی GB10 باقی می‌مانند. این ابزار به کمک همان لاگ‌ها می‌تواند فایل خلاصه را هم از نو بسازد و با نمونه‌ی ذخیره‌شده مقایسه کند.

مقایسه‌ی گام‌های متناظر

میانه‌ی گام‌های دست‌نخورده هم می‌تواند گمراه‌کننده باشد. تنظیمات پیش‌فرض در آزمایش plain-48 زمان شبیه‌سازی را 47.5 ثانیه نشان داد، درحالی‌که این رقم در 6 گام دست‌نخورده‌ی e6a-base به 59.1 ثانیه رسید. جالب اینجاست که در همان 6 شماره گامِ متناظر، آزمایش plain-48 معادل 60.9 ثانیه زمان برده بود. از آنجا که زمان شبیه‌سازی تابع طول پاسخ است، زمان‌ها را حتماً روی شماره گام‌های متناظر مقایسه کنید.

نتایج حاصل از تک‌اجراها

این اعداد بر اساس یک بار اجرا به دست آمده‌اند و هر صفحه‌ای که از آن‌ها استفاده کرده، این نکته را قید کرده است:

  • زمان شبیه‌سازی در حالتی که موتور در حافظه باقی می‌ماند (بخش 2.2). مقایسه‌ی دو اجرای هم‌زمان تنها 1 تا 3 درصد اختلاف را در یک سید خاص نشان داد.
  • هزینه‌ی استنتاج قطعی (بخش 4.5).
  • دسته‌های پاسخی با اندازه‌های 4 و 16 (بخش 3.1).
  • میزان پاداش و هزینه‌ی شبیه‌سازی در فیلتر DAPO (بخش 3.2). به این دلیل که هیچ گام بدون وقفه‌ای در این آزمایش وجود نداشت، زمان‌های توقف از زمان شبیه‌سازی آن کسر شده‌اند.

چرا نتیجه‌ی اولین مقایسه‌ی تخلیه‌ی حافظه معتبر نیست

در اولین آزمایش جفتی، e6a-base را در کنار e3c مقایسه کردیم. این مقایسه میانه‌ی شبیه‌سازی دست‌نخورده را برای حالت پیش‌فرض 59.1 ثانیه و در حالت ماندن موتور در حافظه 52.0 ثانیه نشان می‌داد؛ یعنی یک برتری 12 درصدی. اما این دو آزمایش از سهم‌های حافظه‌ی متفاوتی برای موتور استفاده می‌کردند (0.4 در برابر 0.25) و گام‌های دست‌نخورده‌ی آن‌ها نیز شماره‌های متفاوتی داشتند.

گام شماره‌ی 10 در هر دو آزمایش دست‌نخورده بود. حالتی که موتور در حافظه مانده بود با پاسخ‌هایی به طول 599 توکن، 46.7 ثانیه طول کشید؛ اما حالت پیش‌فرض با پاسخ‌های 695 توکنی، 56.3 ثانیه زمان برد. از آنجا که مدت شبیه‌سازی تابع طول پاسخ است، کوتاه‌تر بودن پاسخ‌ها بخش عمده‌ی این اختلاف را توضیح می‌دهد. سپس در آزمایش جفتی و هم‌زمانِ e3e و e3f فقط تنظیم تخلیه‌ی حافظه (offload) را تغییر دادیم که در نتیجه بهبودی بین 1 تا 3 درصد حاصل شد.

منابع: capture/gpu/heat-guard.sh؛ capture/run.py؛ capture/gpu/watchdog_replay.py؛ capture/gpu/out-gb10/image-identity.txt؛ capture/gpu/miles_grpo.py؛ capture/gpu/summarize_miles.py؛ capture/gpu/summary/miles-gb10-lab.json؛ capture/gpu/out-gb10/thermostat.log؛ capture/gpu/out-gb10/unpaused-timing.txt؛ capture/gpu/out-gb10/ray-oom-4b.log.

ترجمه‌ی فارسی Lab notes از راهنمای Miles 101 دوره‌ی AI Engineering from Scratch، نوشته‌ی Rohit Ghumare، تحت مجوز MIT. دستورها، لاگ‌ها و اعداد عیناً از اجراهای ثبت‌شده‌ی متن اصلی‌اند. فهرست راهنما