خرابیهایی که این راهنما در قالب روایت بازگو میکند؛ همراه با نشانهها، علتها، راهحل یا وضعیت آنها و بخشی از راهنما که هر مورد را توضیح میدهد.
بخشهای مختلف این راهنما از رخدادهای واقعی به عنوان شواهد استفاده میکنند. هر کدام از این موارد از ایشوهای SGLang یا Miles، درخواستهای ادغام (pull request)، گزارشهای عملیاتی از محیط واقعی یا ثبت مستقیم دادههای خودمان برداشته شدهاند. این نمایه رخدادها را به تفکیک بخش فهرست کرده است تا بتوانید بر اساس نشانههایی که در لاگهای خود میبینید، در آن جستوجو کنید. وضعیت باز یا بسته بودن موارد در تاریخ 2026-10-16 بررسی شده است.
ثبتشده توسط ما
| رخداد | نشانه | علت | راهحل یا وضعیت | بخش |
|---|---|---|---|---|
| سرریز حافظه در همروندی 32 (لاگ) | فریمورک Metal خطای Insufficient Memory داد و کل درخت فرایندهای سرور متوقف شد |
استخر 87 درصد از حافظهی آزاد در زمان راهاندازی را مصرف کرد | --mem-fraction-static 0.4 |
3.2 |
گزینهی --disable-overlap-schedule روی MLX (لاگ) |
خطای RuntimeError در اولین دستهی واقعی، سپس توقف سرور با سیگنال SIGQUIT و کشته شدن درخت فرایندهای آن |
مسیر بدون همپوشانی همچنان تابع FutureMap.stash را با تنسورهایی روی دو دستگاه فراخوانی میکند |
در نسخهی 0.5.22 باز است. همپوشانی را روشن نگه دارید | 2.4 |
| سیگنال SIGTERM به گروه فرایندها (لاگ) | لاگ هنگام خاموش شدن کرش ثبت میکند | فرایند فرزند اسکژولر زودتر از بین رفت، بنابراین فرایند والد بدون تخلیه (drain) وارد مسیر کرش شد | فقط به فرایند اصلی SIGTERM بفرستید | 7.1 |
| گارد حافظه روی GB10 (گزارش) | راهاندازی حین تخصیص استخر KV متوقف شد. لاگ سرور این راهاندازیها نگهداری نشد | یک دیمن گارد روی سیستم، اسکژولر را متوقف کرد که ظرف 5 ثانیه تا 36.7 GiB رشد کرده بود | گارد را متوقف کرده یا برای سرور پیکربندی کنید | 3.2 |
خطای درایور NV_ERR_NO_MEMORY روی GB10 (گزارش) |
رگباری از خطوط سرریز حافظهی درایور در لاگ کرنل | این لاگها به تاریخ 2026-10-16 و روز اولین راهاندازیهای ما برمیگردند. چون لاگهای سرور آن روز ذخیره نشده، امکان تطبیق هر رگبار لاگ با یک شروع مشخص وجود ندارد | همهی سرورها در تستهای بعدی پایدار و سالم شدند. هشدار را بر اساس بررسی سلامت تنظیم کنید، نه این خط | 3.2 |
| نصب با pip روی هاست L4 بدون CUDA toolkit (گزارش) | چهار شکست در راهاندازی: Python.h، سپس nvcc، هدرهای FlashInfer، و بعد -lcudart |
کامپایلرهای کرنل در زمان راهاندازی به جعبهابزار کامل نیاز دارند | از ایمیج آماده یا هاستی با CUDA toolkit کامل استفاده کنید | 7.1 |
بنچمارک با HF_HUB_OFFLINE=1، لاگ ذخیره نشده |
مجموعه دادهی random با همهی مدلهای روی دیسک به خطا خورد |
این مجموعه داده ShareGPT را از Hugging Face Hub دانلود میکند | استفاده از --dataset-name random-ids یا یک --dataset-path محلی |
7.1 |
مقدار --chunked-prefill-size 8192 روی L4 (گزارش) |
راهاندازی با خطای PyTorch INTERNAL ASSERT FAILED پایان یافت |
گراف پیشپرکنی برای 8,192 توکن به بیش از 2.33 گیگابایت باقیمانده از استخر KV نیاز داشت | روی کارتهای 24 گیگابایتی اندازهی تکه پیشفرض 4,096 را حفظ کنید | 2.2 |
مقدار --tp-size 2 روی کارت دوم مشترک L4 (گزارش) |
خطای RuntimeError: The memory capacity is unbalanced در زمان راهاندازی |
دو پاد کاربری دیگر 3.5 گیگابایت از کارت دوم را اشغال کرده بودند | از پردازندههای گرافیکی کاملاً آزاد یا یک کارت گرافیک استفاده کنید | 6.1 |
| پیشپرکنی و رمزگشایی روی دو کارت L4 از طریق TCP (گزارش، خلاصهی خطوط) | بنچمارک همهی درخواستها را موفق ثبت کرد، با 0 توکن خروجی بازتوکنسازیشده و میانگین TTFT برابر با 0.00 میلیثانیه | صف انتقال به استخر کوچک رمزگشایی پر شد و نشست انتقال شکست خورد | در هر بنچمارک تفکیکشده مقدار Total generated tokens (retokenized) را بخوانید |
6.3 |
| نمونهگیر FlashInfer در vLLM روی L4 (گزارش) | خطای Engine core initialization failed پس از ساخت JIT |
کامپایلر CUDA و هدرهای CUDA toolkit موجود در محیط نصب با هم همخوانی نداشتند | استفاده از VLLM_USE_FLASHINFER_SAMPLER=0 برای بنچمارک حریصانه (greedy) |
5.3 |
کتابخانه Miles با --attn-implementation triton (لاگ) |
خطای ValueError: Specified attn_implementation="triton" is not supported |
بخش آموزشدهنده (trainer) بکاند Triton را نمیپذیرد | از ساختاری استفاده کنید که هر دو طرف از آن پشتیبانی کنند | 7.2 |
| حالت تماماً همسیاست (true on-policy) در Miles روی GB10 (لاگ) | موتور SGLang با شرط اعتبارسنجی FA3 SM متوقف شد، سپس جاب حدود 200,000 خطای 503 طی 63 دقیقه لاگ کرد و هرگز متوقف نشد |
الگوریتم FA3 فقط از معماریهای SM 8.0 تا 9.0 پشتیبانی میکند و حلقهی شبیهسازی مجدداً به موتور مرده درخواست میفرستد | لاگ SGLang را بررسی کنید و سازگاری کرنلها را با کارت گرافیک خود بسنجید | 7.2 |
| خاموش شدن GB10 زیر بار پردازشی Miles (گزارش) | سیستم سه بار در تاریخ 2026-10-18 خاموش شد | لاگها علتی را ثبت نکردهاند | اسکریپتی وجود دارد که با رسیدن دمای GPU به 84 درجهی سانتیگراد، کانتینر را متوقف میکند | 7.2 |
| مدل پیشنویس EAGLE-3 برای Qwen3-30B-A3B | راهاندازی متوقف شد: طول زمینه هدف یعنی 262144 از مقدار مشتقشدهی 2048 بزرگتر است | کانفیگ مدل پیشنویس 2,048 موقعیت تعریف کرده است | متغیر SGLANG_ALLOW_OVERWRITE_LONGER_CONTEXT_LEN=1 همانطور که در دستورالعملهای SGLang آمده است. مدل پیشنویس Qwen3-8B طول 40,960 را تعیین کرده و بدون این متغیر اجرا میشود |
4.4 |
| افت کارایی حرارتی (thermal throttle) در تست فراگیر L4 (گزارش) | گرافهای CUDA بهبودی نشان ندادند و مقادیر سید در یک نقطه تا 49 درصد اختلاف داشتند | پردازندهی GPU 0 روی دمای 87 درجهی سانتیگراد و فرکانس 360 مگاهرتز (از 2,040 مگاهرتز) کار میکرد و مکانیزم کاهش سرعت حرارتی فعال بود | در هر بار اجرا، فرکانس و دمای کارت گرافیک را ثبت کنید | 5.1 |
| دمای 0 روی سرور با تنظیمات پیشفرض (لاگ) | دریافت 2 پاسخ متفاوت در 5 درخواست یکسان روی GB10 | در آزمایشهای ما ریشهیابی نشد | استفاده از --enable-deterministic-inference در 5 بار آزمایش، 1 پاسخ یکسان تولید کرد |
4.6 |
بخش 1 و بخش 2: مسیر پردازش درخواست
| رخداد | نشانه | علت | راهحل یا وضعیت | بخش |
|---|---|---|---|---|
| گزارش عملیاتی لینکدین، 2026-02 | تاخیر صدک 99 در حد چند ثانیه روی مدلهای رتبهبندی کوچک | توکنسازی، پیامهای ZMQ، فرایند آزادسازی حافظه (garbage collection)، قفل مفسر سراسری (GIL) و اسکژولر | توکنسازی دستهای، مسیر امتیازدهی، و اجرای gc.freeze بعد از مرحلهی گرم کردن (درخواست ادغام 9241) |
1.2، 2.1 |
| #36889 | گزینهی --max-running-requests 8 اعمال شد، اما نرخ پردازش روی 2 استریم ثابت ماند |
کش وضعیت Mamba درخواستهای فعال را به 2 عدد محدود کرد | فقط یک خط اطلاعرسانی این سقف را اعلام میکند | 2.2 |
| #8463 | ثبت مکرر KV cache pool is full. Retract requests. و به دنبال آن شکست بررسیهای سلامت |
فرایند بازپسگیری (retraction) نتوانست حافظهی کافی آزاد کند و مکرراً اجرا شد | بدون اصلاح بسته شد. در نسخهی 0.5.22 اسکژولر آخرین درخواست را لغو میکند | 2.3 |
| #26248 | افت سرعت رمزگشایی از حدود 429 به 20 الی 38 توکن بر ثانیه پس از بازپسگیری | ثبت نشده است | به علت عدم فعالیت بسته شد | 2.3 |
| #14972 | خطای تخصیص بعد از پیام KV cache pool is full در 94 درصد مصرف حافظه، با وجود روشن بودن همپوشانی |
بازپسگیری، درخواستهایی را که یک گام دیرتر تمام میشوند محاسبه نمیکرد | درخواست ادغام #15626 بدون merge بسته شد. اسکژولر نسخهی 0.5.22 آن را مدیریت میکند | 2.4 |
| #34740 | بار محاسباتی توکنزدایی به صورت مربعی با طول خروجی افزایش یافت | توکنهای بایتی که هرگز به یک نویسه کامل تبدیل نمیشوند آفستها را به جلو نمیبرند | باز است | 2.5 |
بخش 3: کش کلید-مقدار (KV cache)
| رخداد | نشانه | علت | راهحل یا وضعیت | بخش |
|---|---|---|---|---|
| #39675 | سرریز حافظه در اولین پیشپرکنی روی Apple MPS | ظرفیت نامشخص، کسر حافظه را روی 0.95 قرار داد | مقدار --mem-fraction-static را صراحتاً تنظیم کنید |
3.2 |
| #42510 | تخصیص استخر مدل پیشنویس شکست خورد | نسخههای مدل پیشنویس هنگام تعیین اندازهی استخر اصلی همچنان در حافظه باقی مانده بودند | گزارش شده است | 3.2 |
| #6027 | پرامپت 64K توکنی DeepSeek-V3 در لایهی اتنشن دچار سرریز حافظه شد | لاگ نشان میداد برای 274,934 توکن جا وجود دارد، اما اتنشن باز هم سرریز کرد | کسر حافظه را کاهش دهید | 3.2 |
| #43201 | متون قدیمی کلاس ChunkCache را توصیف میکنند که دیگر وجود ندارد |
این کلاس در تاریخ 2026-10-08 حذف شد | گزینهی --disable-radix-cache یک شیء UnifiedRadixCache غیرفعال میسازد |
3.3 |
| #32459 | افت نرخ اصابت پرامپتهای طولانی از 97 به 40 و سپس 53 درصد با EAGLE | فضای KV اضافی برای حدس زدن توکنها، درخت را مجبور به تخلیهی پرامپتها کرد | با فعالسازی هر قابلیت جدید، نرخ اصابت را اندازهگیری کنید | 3.3 |
| #35129 | نرخ اصابت 66.8 درصد و بیرون راندن نشستهای دیگر با بارگذاری مجدد HiCache | وجود هش تصادفی و پیام متغیر در پرامپت سیستم، و بارگذاری مجدد در نبود فضای کافی | اصلاح پرامپت نرخ اصابت را به 94.4 درصد رساند | 3.4، 3.5 |
| گزارش عملیاتی Jarvislabs، 2026-08 | 23 درصد از توکنهای ورودی مجدداً محاسبه شدند | درخواستها به سرورهایی بدون پیشوند کششدهی مربوط ارسال میشدند | با افزودن یک هدر هر مکالمه به یک GPU متصل ماند: نرخ اصابت به 64.7 الی 92.1 درصد رسید | 3.4، 6.4 |
| #30760 | یکی از رتبههای موازیسازی تنسور در بررسی پیشواکشی بیپایان معطل ماند در حالی که بقیه ادامه دادند | ثبت نشده است | گزارش شده است | 3.5 |
| #42465 | هجوم ناگهانی پرامپتهای 540,000 توکنی با HiCache روشن همهی رتبهها را قفل کرد | ثبت نشده است | همان پرامپتها بدون HiCache اجرا میشوند | 3.5 |
| #39830 | ارائهی پاسخهای سلیس اما نامربوط به پرامپتی دیگر در 20 بار از 20 اصابت به لایهی هاست | اصابت به سطح هاست در HiCache روی مدل با اتنشن خطی ترکیبی | مدلهای ترکیبی را قبل از اعتماد به کش تست کنید | 3.6 |
| #22935 | پرامپت کاملاً یکسان هیچ توکنی را بازاستفاده نکرد | شکستن یک گره باعث ایجاد گرهای بدون وضعیت Mamba شد | برای پرامپتهای تکراری مقدار #cached-token را بررسی کنید |
3.6 |
| #37834 | افت نرخ اصابت از 88.2 به 65.9 درصد، و افزایش TTFT از 226 میلیثانیه به 1,063 میلیثانیه | اعمال یک فلگ، استراتژی Mamba را روی no_buffer اجبار کرده بود |
تنظیمات را روی --mamba-radix-cache-strategy auto نگه دارید مگر این که بازدهی بهتری اندازهگیری کرده باشید |
3.6 |
| #36131 | کاهش سرعت رمزگشایی تکاستریمی در مدلهای ترکیبی با اتنشن پنجرهی لغزان (SWA) | مقدار پیشفرض جدید، جایگاههای SWA خارج از پنجره را آزاد کرد | گزارش شده است | 3.6 |
بخش 4: هر گذر رو به جلو
| رخداد | نشانه | علت | راهحل یا وضعیت | بخش |
|---|---|---|---|---|
| #23769 | مدل DeepSeek-V4-Pro-FP8 حین ثبت گراف از کار افتاد | با موازیسازی داده در اتنشن، اندازهی دستهی گراف به ازای هر رتبه شمرده میشود | کاهش اندازهی دستهی گراف یا انتخاب کسر حافظهی کمتر | 4.1 |
| #36478 | گزینهی disable_piecewise_cuda_graph=True در API پایتون خطای TypeError داد |
درخواست ادغام #23906 این فیلد را به تنظیمات گراف در سطح هر فاز منتقل کرد | استفاده از cuda_graph_backend_prefill="disabled" |
4.1 |
| گزارش عملیاتی joshua8.ai، 2026-01 | فریمورک SGLang روی کارت SM120 فقط در حالت مشتاق (eager mode) اجرا شد و NVFP4 کار نکرد | پشتیبانی از معماری جدید | قبل از مقایسهی موتورها، سازگاری کپچر و فرمت وزنها را بررسی کنید | 4.1، 4.3 |
| #17411 | میانهی ITL روی سرور H20 از 39.44 به 283.52 میلیثانیه افت کرد | نسخه 0.6.1 FlashInfer روی کارایی کرنل اتنشن Hopper افت ایجاد کرد | موتور SGLang حالت fa3 را به عنوان پیشفرض Hopper تنظیم کرد |
4.2 |
| گزارش عملیاتی Cloudflare، 2026-08 | کش KV با دقت BF16 در همروندی 64 دچار سرریز حافظه شد | ظرفیت کش پاسخگو نبود | استفاده از کش KV با فرمت FP8 توانست دو برابر توکن را نگهداری کند | 3.1، 4.3 |
| خلاصه اخبار Pivot News، 2026-05 | کلاستر ناهمگن پس از پیوستن کارتهای RTX 4090 کرش کرد | پردازش فرمت FP4 به قابلیت محاسباتی نسخه 10.0 نیاز داشت | راهکار نرمافزاری برای کارتهای قدیمیتر وجود ندارد | 4.3، 5.3 |
| #5274 | مدل EAGLE-3 در همروندی 20 نرخ پردازش را از 217.8 به 164.4 توکن بر ثانیه کاهش داد | حدس زدن توکنها توانی محاسباتی مصرف میکند که پردازش یک دستهی کامل به آن نیاز دارد | تکنیک پیشبینی و حدس توکن را در دستههای کوچک به کار بگیرید | 4.4 |
| #6783 | نرخ پذیرش با 10K ورودی تا 1.2 توکن کاهش یافت | کانفیگ مدل پیشنویس 2,048 موقعیت و بدون مقیاسبندی RoPE داشت | اضافه کردن مقیاسبندی RoPE و تنظیم 131,072 موقعیت به تنظیمات مدل پیشنویس | 4.4 |
| گزارش عملیاتی David Noel Ng، 2026-08 | نرخ پذیرش 1.3 تا 1.8 توکن روی DeepSeek-V4-Flash | لودر مدل پیشنویس وزنهای خبره مشترک (shared expert) را مپ نکرده بود | درخواست ادغام #33276 | 4.4 |
| #37707 | فیلد رشته مقادیری کوتاهتر از minLength تعیینشده پذیرفت |
کتابخانه xgrammar قاعدهی مذکور را با فعال بودن همزمان فیلد pattern نادیده گرفت |
باز است | 4.5 |
| #38863 | مصرف CPU برای بیتماسک با افزایش طول خروجی در حالت پیشبینی توکن صعودی شد | متد بازگشت به عقب در هر فراخوانی یک لیست دیباگ را کپی میکرد | باز است | 4.5 |
| #43055 | مدل gpt-oss-20b در حالت پیشوند خروجیهای حریصانهی متفاوتی داد | کرنل قطعی Triton تایلهای KV را با پیشوند اصلاحشده تراز میکرد | باز است | 4.6 |
| #43413، #36174، #31261 | حالت قطعی مدلهای ترکیبی Mamba2، DeepSeek-V4، یا Qwen3.5 را پوشش نمیدهد | این معماریها فاقد کرنلهای پایا نسبت به دسته (batch-invariant) هستند | هنوز پشتیبانی نمیشود | 4.6 |
| #39597 | خروجی متن حریصانه بعد از ریاستارت با DFLASH تغییر کرد | تنظیم خودکار FlashInfer رویکردهای کرنل متفاوتی برگزید | استفاده از --disable-flashinfer-autotune یا حالت قطعی |
4.6 |
بخش 5: سنجش کارایی
| رخداد | نشانه | علت | راهحل یا وضعیت | بخش |
|---|---|---|---|---|
| #3196 | سرعت 13 توکن بر ثانیه برای DeepSeek V3 روی هشت پردازندهی گرافیکی H200 | اسکریپت به جای توکن کلمات را میشمرد و تاخیر تا دریافت اولین توکن (TTFT) را در نرخ حساب میکرد | اندازهگیری دقیق با استفاده از کلاینت استاندارد بنچمارک | 5.1 |
سنجهی sglang:utilization |
این شاخص روی سرور فعال و شلوغ عدد 0 را نشان میدهد | پسرفت نرمافزاری که توضیحات کد آن را به ایشوی #22713 ارجاع میدهد | سنجههای طول صف و تاخیر را رصد کنید | 5.2 |
| #35884 | پروبهای ارزیابی سلامت ناموفق بار سیستم را بالا بردند | فراخوانی /health در صورت مواجهه با وقفه (timeout)، درخواست اصلی خود را لغو نکرد |
به ارزیابی ناموفق صرفاً به عنوان یک علامت مشکل نگاه کنید نه تمام آن | 5.2، 7.1 |
| #22511 | خطای "health check failed" زیر بار سنگین روی مدل GLM-5 | به مدت 20 ثانیه زیر بار شدید هیچ خروجی به بخش توکنزدایی نرسید | برای بررسی آمادگی از اندپوینت /ready استفاده کنید |
5.2، 7.1 |
| وبسایت AIMultiple، 2026-01 | ادعای "SGLang 29% faster" در حداقل پنج مطلب مختلف تکرار شد | تست غیرهمزمانی که نسخهی قدیمی SGLang v0.2.3 را به کار گرفته بود | نتایجی را که نسخهی دقیق ابزار را قید نکردهاند نادیده بگیرید | 1.3، 5.3 |
| بحث شماره #17221 در vLLM | مصرف حافظه در ظاهر 7 گیگابایت در SGLang در برابر 21 گیگابایت بود | تنظیم فلگ نادرست: پارامتر --context-length باید با --max-model-len سنجیده شود |
موتورها را فقط با فلگهای واقعاً همارز مقایسه کنید | 5.3 |
بخش 6 و بخش 7: ناوگانها و عملیات زیرساخت
| رخداد | نشانه | علت | راهحل یا وضعیت | بخش |
|---|---|---|---|---|
| #19953 | موازیسازی دادهی اتنشن در چند نود در اولین پیام خود قفل شد | سوکت ZeroMQ بدون پشتیبانی از IPv6 به یک آدرس --dist-init-addr با IPv6 متصل شده بود |
اصلاحیهای پیشنهاد شد، اما ادغام آن تایید نگردید | 6.1 |
| #9787 | یک کارت پیشپرکنی بیکار شد، سپس همهی فرایندهای پیشپرکنی کرش کردند | مسیریابی نامتعادل در توزیع DeepEP توکنهای بسیار زیادی به یک کارت فرستاد | تکههای کوچکتر، چیدمان بهینهی خبرهها، و استفاده از EPLB | 6.2 |
| #12591 | مقدار TTFT در ساختار تفکیکشده بالاتر از پیادهسازی تکسرور شد | نسخهی قدیمی موتور انتقال Mooncake | موتور Mooncake را بهروزرسانی کنید | 6.3 |
| #9266 | خطای "Prefill bootstrap failed" در 64 درخواست همزمان | مهلت زمانی مسیریاب برای کلاینت پیشپرکنی بسیار کوتاه بود | درخواست ادغام #9803 | 6.3 |
| #9926 | خطاهای "Aborted by AbortReq" | کلاینت یا مسیریاب عملیات را متوقف کردند | قبل از انتقال، مهلتهای زمانی را بازبینی کنید | 6.3 |
| گزارش عملیاتی Novita AI، 2026-01 | افت شدید TTFT هنگام ترکیب معماری تفکیکشده و همپوشانی | انتقال KV منتظر اجرای کرنل بعدی میماند | فلگ مورد استفاده آنها در کد 0.5.22 موجود نیست | 6.3 |
| #22095 | افت دو برابری در نرخ پردازش روی سرورهای GB200 NVL72 | تغییر نسخهی مسیریاب خارج از هستهی SGLang | نسخهی مسیریاب را همگام با موتور سرویسدهی هماهنگ کرده و بنچمارک بگیرید | 6.4 |
| #10608 | خطای "Failed to select prefill/decode worker" در حالت cache_aware |
مسیریابی تفکیکشده همزمان با شناسایی سرویسها در کوبرنتیز | کاربران موقتاً به الگوریتم نوبتگردشی (round robin) بازگشتند | 6.4 |
| گزارش عملیاتی CERIT-SC، 2026-04 | درج فراخوانی ابزار در استدلال، گیر کردنهای نادر و حلقههایی که کش KV را اشغال کردند | ترافیک برآمده از ایجنتها با پرامپتهای فوقالعاده طولانی | محدود کردن سقف خروجی به 32K و اعمال جریمهی تکرار (presence penalty) | 7.1 |
| گزارش عملیاتی Doubleword، 2026-04 | شروع سرد به مدت 695 ثانیه | بارگذاری 531 ثانیهای وزنها و خالی بودن کشهای کرنل | کشهای پایدار و ثبت چکپوینت از فرایند: کاهش به 9.6 ثانیه | 7.1 |
| radixark/miles#860 | اندپوینت /release_memory_occupation در مدلهای مبتنی بر پنجرهی لغزان تاثیری نداشت |
استخر SWA قابلیت کاهش مصرف حافظه را غیرفعال میکند | باز است | 7.2 |
| radixark/miles#1485 | خروجیهای متفاوتی در down_proj روی موازیسازی تنسور 2 ایجاد شد |
دو موتور نتایج جزئی فرمت BF16 را با ترتیبی ناهمسان جمع زدند | باز است | 7.2 |
| radixark/miles#3714 | شکست انتقال وزنها با خطای Message truncated |
حالت قطعی سرویسدهی سقف کانالهای NCCL را روی 8 قفل کرد در حالی که بخش آموزش به 24 نیاز داشت | باز است | 7.2 |
| radixark/miles#3277 | ایجاد مسیرهای جدید MoE کنار لگاریتم احتمالات قبلی پس از بازپسگیری | پیشپرکنی مجدد با وزنهای جدید مسیرهای قبلی را بازنویسی کرد | باز است | 7.2 |
منابع: بخشهای تشریح رخدادها در پوشهی sections/؛ لاگهای capture/out/oom-exploratory.log، server-no-overlap.log، server-default.log؛ گزارشهای capture/gpu/incidents/gb10-memory-guard-pauses.txt، gb10-driver-no-memory.txt، l4-toolchain-failures.txt، l4-thermal-throttle.txt؛ خروجیهای capture/gpu/out-gb10/determinism.txt و deterministic-determinism.txt؛ سند docs/cookbook/specbundle/specbundle_usage.mdx در نسخهی v0.5.22؛ ایشوها و درخواستهای ادغام گیتهاب که در جدولها لینک شدهاند؛ و فایلهای capture/gpu/incidents/l4-chunk-8192-prefill-graph-oom.txt، capture/gpu/incidents/l4-tp-unbalanced-memory.txt، capture/gpu/incidents/l4-pd-mooncake-tcp-queue.txt، capture/gpu/incidents/l4-pd-summary-lines.txt، capture/gpu/incidents/l4-vllm-flashinfer-jit.txt، capture/gpu/incidents/gb10-boot-list.txt، capture/gpu/out-miles/true-on-policy-error.log، capture/gpu/out-miles/true-on-policy-fa3-error.log.