بخش 4.5 · سرعت و پایداری

بدانید استنتاج قطعی چه چیزی را اصلاح می‌کند

Know what deterministic inference fixes

فهرست مطالب
  1. فعال‌سازی
  2. شکاف ثابت می‌ماند
  3. تکرار گام اول
  4. هزینه

استنتاج قطعی (Deterministic inference) کاری می‌کند که موتور رفتارش را عیناً تکرار کند، اما باعث نمی‌شود محاسبات موتور با ترینر (Trainer) یکی شود.

ما استنتاج قطعی را فعال کردیم تا فاصله‌ی میان ترینر و موتور را ببندیم، اما این شکاف تکان نخورد. تنها تغییری که رخ داد این بود که دو اجرای متفاوت با دانه (Seed) یکسان، در گام 0 مسیر پیش‌روی شبیه‌سازی‌شده‌ی یکسانی تولید کردند.

با تمام کردن این بخش، می‌توانید تصمیم بگیرید چه زمانی استنتاج قطعی ارزش هزینه‌اش را دارد.

نتیجه‌ی ما: با و بدون استنتاج قطعی، میانه‌ی شکاف بین 0.0151 و 0.0153 ماند. دو اجرای قطعی، مسیر پیش‌روی شبیه‌سازی‌شده‌ی گام 0 را مو‌به‌مو تکرار کردند.

فعال‌سازی

فلگ موتور و یک بک‌اند اتنشن (Attention) سازگار با آن را از طریق MILES_EXTRA_ARGS به اجرای بخش 1.1 اضافه کنید:

-e MILES_EXTRA_ARGS="--sglang-enable-deterministic-inference --sglang-attention-backend triton"

لانچر MILES_SGLANG_ATTENTION را هم می‌خواند، اما فقط در حالت واقعاً هم‌سیاست (On-policy) با MILES_TRUE_ON_POLICY=1. در یک اجرای معمولی، تغییر این متغیر اثری ندارد.

روی پردازنده‌ی گرافیکی GB10 ما، هر دو گزینه‌ی triton و flashinfer با این فلگ بالا آمدند. موتور نمونه‌گیر (Sampler) خودش را هم عوض می‌کند و در لاگ نیز همین موضوع ثبت می‌شود:

موتور نمونه‌گیر خود را برای حالت قطعی تغییر می‌دهد capture/gpu/out-gb10/deterministic-sampler.log
[2026-10-21 13:45:36] Sampling backend is set to pytorch for deterministic inference.
[2026-10-21 14:55:18] Sampling backend is set to pytorch for deterministic inference.

یک خط از اجرای Triton و یک خط از اجرای FlashInfer.

شکاف ثابت می‌ماند

ما چهار اجرای 12گامی با دانه‌ی 1 را روی مدل Qwen3-0.6B اجرا کردیم:

اجرا میانه‌ی شکاف شکاف در گام 0
موتور پیش‌فرض 0.01526 0.015271
قطعی، Triton 0.01518 0.015404
قطعی، FlashInfer 0.01520 0.015320
قطعی، Triton، اجرای دوم 0.01515 0.015404

اندازه‌گیری ما نشان داد که این شکاف با استنتاج قطعی و بدون آن یکی است. اختلاف میانگین هر چهار میانه حداکثر 0.0002 است.

این موضوع نشان می‌دهد ریشه‌ی مشکل در کرنل‌هاست: دو طرف با کرنل‌های متفاوتی محاسبه می‌کنند. استنتاج قطعی کاری می‌کند که موتور برای ورودی یکسان، بدون توجه به بقیه‌ی دسته‌ی داده (Batch)، خروجی یکسانی بدهد؛ اما محاسبات موتور را شبیه ترینر نمی‌کند.

تکرار گام اول

دو اجرای Triton در گام 0 تا شش رقم اعشار شکاف یکسانی داشتند: 0.015404. از گام 1 به بعد، خروجی‌هایشان دچار دریفت شد و فاصله گرفت.

موتور خروجی خود را تکرار کرد، اما ترینر به احتمال زیاد این کار را نکرده است. در این اجراها حالت قطعی ترینر تنظیم نشده بود؛ بنابراین وزن‌های مدل پس از اولین به‌روزرسانی می‌توانند بین دو اجرا تفاوت داشته باشند. ما هنوز این وضعیت را با روشن بودن فلگ‌های ترینر آزمایش نکرده‌ایم.

بنابراین، فقط وقتی سراغ استنتاج قطعی بروید که می‌خواهید آزمایشی را عیناً تکرار کنید؛ مثلاً برای ارزیابی یک تابع پاداش روی نمونه‌های کاملاً یکسان. برای کم کردن این شکاف از آن استفاده نکنید.

استنتاج قطعی تکرار می‌شود و شکاف باقی می‌ماندهر دو اجرای قطعی Triton در گام 0 شکاف یکسانی دادند، و هر چهار اجرا شکافی نزدیک به 0.015 را حفظ کردند.
استنتاج قطعی تکرار می‌شود و شکاف باقی می‌ماند شکاف logprob در هر گام برای چهار اجرای 12-گامی با seed 1. هر چهار اجرا بین 0.0145 و 0.0160 می‌مانند. دو اجرای Triton از مقدار یکسان 0.015404 شروع شده و سپس دچار دریفت می‌شوند. 0.0145 0.0150 0.0155 0.0160 0 3 6 9 11 گام شکاف logprob گام 0: هر دو اجرای Triton مقدار 0.015404 دادند پیش‌فرض قطعی، Triton مشابه، اجرای دوم قطعی، FlashInfer موتور عینا تکرار می‌شود، اما هنوز مانند آموزش‌دهنده محاسبه نمی‌کند.
شکاف logprob در هر گام برای چهار اجرای 12-گامی با seed 1.

هزینه

کرنل‌های قطعی کندترند. در هر چهار اجرا، چهار گام بدون توقف ناشی از محافظ حرارتی (Heat-guard) پیش رفتند: گام‌های 0، 1، 4 و 10. در این چهار گام، میانه‌ی زمان مسیر پیش‌روی شبیه‌سازی‌شده با موتور پیش‌فرض 56.5 ثانیه بود. زمان 59.1 ثانیه‌ای در بخش 5.3 مربوط به همان اجرای پیش‌فرض روی 6 گام تمیز و بدون توقف است. این فرایند در سه اجرای قطعی با پاسخ‌هایی در حدود همین طول، 79.1 تا 82.0 ثانیه طول کشید.

این یعنی 40 تا 45 درصد زمان بیشتر برای مسیر پیش‌روی شبیه‌سازی‌شده؛ آن هم بر اساس یک بار اجرای هر پیکربندی روی پردازنده‌ی گرافیکی که مدام دچار توقف‌های حرارتی می‌شد. این داده را قطعی و نهایی ندانید؛ قبل از اینکه این فلگ را برای اجرایی طولانی روشن بگذارید، حتماً هزینه‌ی آن را روی سخت‌افزار خودتان بسنجید.

منابع: capture/gpu/miles_grpo.py؛ capture/gpu/summary/miles-gb10-lab.json (بخش‌های runs.e6a-base، runs.e6b-det-triton، runs.e6c-det-flashinfer، runs.e6d-det-triton-repeat و median_unpaused)؛ capture/gpu/out-gb10/deterministic-sampler.log؛ capture/gpu/out-gb10/engine-settings.txt؛ capture/gpu/out-gb10/unpaused-timing.txt.

ترجمه‌ی فارسی Know what deterministic inference fixes از راهنمای Miles 101 دوره‌ی AI Engineering from Scratch، نوشته‌ی Rohit Ghumare، تحت مجوز MIT. دستورها، لاگ‌ها و اعداد عیناً از اجراهای ثبت‌شده‌ی متن اصلی‌اند. فهرست راهنما