استنتاج قطعی (Deterministic inference) کاری میکند که موتور رفتارش را عیناً تکرار کند، اما باعث نمیشود محاسبات موتور با ترینر (Trainer) یکی شود.
ما استنتاج قطعی را فعال کردیم تا فاصلهی میان ترینر و موتور را ببندیم، اما این شکاف تکان نخورد. تنها تغییری که رخ داد این بود که دو اجرای متفاوت با دانه (Seed) یکسان، در گام 0 مسیر پیشروی شبیهسازیشدهی یکسانی تولید کردند.
با تمام کردن این بخش، میتوانید تصمیم بگیرید چه زمانی استنتاج قطعی ارزش هزینهاش را دارد.
نتیجهی ما: با و بدون استنتاج قطعی، میانهی شکاف بین 0.0151 و 0.0153 ماند. دو اجرای قطعی، مسیر پیشروی شبیهسازیشدهی گام 0 را موبهمو تکرار کردند.
فعالسازی
فلگ موتور و یک بکاند اتنشن (Attention) سازگار با آن را از طریق MILES_EXTRA_ARGS به اجرای بخش 1.1 اضافه کنید:
-e MILES_EXTRA_ARGS="--sglang-enable-deterministic-inference --sglang-attention-backend triton"
لانچر MILES_SGLANG_ATTENTION را هم میخواند، اما فقط در حالت واقعاً همسیاست (On-policy) با MILES_TRUE_ON_POLICY=1. در یک اجرای معمولی، تغییر این متغیر اثری ندارد.
روی پردازندهی گرافیکی GB10 ما، هر دو گزینهی triton و flashinfer با این فلگ بالا آمدند. موتور نمونهگیر (Sampler) خودش را هم عوض میکند و در لاگ نیز همین موضوع ثبت میشود:
[2026-10-21 13:45:36] Sampling backend is set to pytorch for deterministic inference.
[2026-10-21 14:55:18] Sampling backend is set to pytorch for deterministic inference.یک خط از اجرای Triton و یک خط از اجرای FlashInfer.
شکاف ثابت میماند
ما چهار اجرای 12گامی با دانهی 1 را روی مدل Qwen3-0.6B اجرا کردیم:
| اجرا | میانهی شکاف | شکاف در گام 0 |
|---|---|---|
| موتور پیشفرض | 0.01526 | 0.015271 |
| قطعی، Triton | 0.01518 | 0.015404 |
| قطعی، FlashInfer | 0.01520 | 0.015320 |
| قطعی، Triton، اجرای دوم | 0.01515 | 0.015404 |
اندازهگیری ما نشان داد که این شکاف با استنتاج قطعی و بدون آن یکی است. اختلاف میانگین هر چهار میانه حداکثر 0.0002 است.
این موضوع نشان میدهد ریشهی مشکل در کرنلهاست: دو طرف با کرنلهای متفاوتی محاسبه میکنند. استنتاج قطعی کاری میکند که موتور برای ورودی یکسان، بدون توجه به بقیهی دستهی داده (Batch)، خروجی یکسانی بدهد؛ اما محاسبات موتور را شبیه ترینر نمیکند.
تکرار گام اول
دو اجرای Triton در گام 0 تا شش رقم اعشار شکاف یکسانی داشتند: 0.015404. از گام 1 به بعد، خروجیهایشان دچار دریفت شد و فاصله گرفت.
موتور خروجی خود را تکرار کرد، اما ترینر به احتمال زیاد این کار را نکرده است. در این اجراها حالت قطعی ترینر تنظیم نشده بود؛ بنابراین وزنهای مدل پس از اولین بهروزرسانی میتوانند بین دو اجرا تفاوت داشته باشند. ما هنوز این وضعیت را با روشن بودن فلگهای ترینر آزمایش نکردهایم.
بنابراین، فقط وقتی سراغ استنتاج قطعی بروید که میخواهید آزمایشی را عیناً تکرار کنید؛ مثلاً برای ارزیابی یک تابع پاداش روی نمونههای کاملاً یکسان. برای کم کردن این شکاف از آن استفاده نکنید.
هزینه
کرنلهای قطعی کندترند. در هر چهار اجرا، چهار گام بدون توقف ناشی از محافظ حرارتی (Heat-guard) پیش رفتند: گامهای 0، 1، 4 و 10. در این چهار گام، میانهی زمان مسیر پیشروی شبیهسازیشده با موتور پیشفرض 56.5 ثانیه بود. زمان 59.1 ثانیهای در بخش 5.3 مربوط به همان اجرای پیشفرض روی 6 گام تمیز و بدون توقف است. این فرایند در سه اجرای قطعی با پاسخهایی در حدود همین طول، 79.1 تا 82.0 ثانیه طول کشید.
این یعنی 40 تا 45 درصد زمان بیشتر برای مسیر پیشروی شبیهسازیشده؛ آن هم بر اساس یک بار اجرای هر پیکربندی روی پردازندهی گرافیکی که مدام دچار توقفهای حرارتی میشد. این داده را قطعی و نهایی ندانید؛ قبل از اینکه این فلگ را برای اجرایی طولانی روشن بگذارید، حتماً هزینهی آن را روی سختافزار خودتان بسنجید.
منابع: capture/gpu/miles_grpo.py؛ capture/gpu/summary/miles-gb10-lab.json (بخشهای runs.e6a-base، runs.e6b-det-triton، runs.e6c-det-flashinfer، runs.e6d-det-triton-repeat و median_unpaused)؛ capture/gpu/out-gb10/deterministic-sampler.log؛ capture/gpu/out-gb10/engine-settings.txt؛ capture/gpu/out-gb10/unpaused-timing.txt.