مرجع R.3

نمایه رخدادها

Incident index

فهرست مطالب
  1. ثبت‌شده توسط ما
  2. بخش 1 و بخش 2: مسیر پردازش درخواست
  3. بخش 3: کش کلید-مقدار (KV cache)
  4. بخش 4: هر گذر رو به جلو
  5. بخش 5: سنجش کارایی
  6. بخش 6 و بخش 7: ناوگان‌ها و عملیات زیرساخت

خرابی‌هایی که این راهنما در قالب روایت بازگو می‌کند؛ همراه با نشانه‌ها، علت‌ها، راه‌حل یا وضعیت آن‌ها و بخشی از راهنما که هر مورد را توضیح می‌دهد.

بخش‌های مختلف این راهنما از رخدادهای واقعی به عنوان شواهد استفاده می‌کنند. هر کدام از این موارد از ایشوهای SGLang یا Miles، درخواست‌های ادغام (pull request)، گزارش‌های عملیاتی از محیط واقعی یا ثبت مستقیم داده‌های خودمان برداشته شده‌اند. این نمایه رخدادها را به تفکیک بخش فهرست کرده است تا بتوانید بر اساس نشانه‌هایی که در لاگ‌های خود می‌بینید، در آن جست‌وجو کنید. وضعیت باز یا بسته بودن موارد در تاریخ 2026-10-16 بررسی شده است.

ثبت‌شده توسط ما

رخداد نشانه علت راه‌حل یا وضعیت بخش
سرریز حافظه در همروندی 32 (لاگ) فریم‌ورک Metal خطای Insufficient Memory داد و کل درخت فرایندهای سرور متوقف شد استخر 87 درصد از حافظه‌ی آزاد در زمان راه‌اندازی را مصرف کرد --mem-fraction-static 0.4 3.2
گزینه‌ی --disable-overlap-schedule روی MLX (لاگ) خطای RuntimeError در اولین دسته‌ی واقعی، سپس توقف سرور با سیگنال SIGQUIT و کشته شدن درخت فرایندهای آن مسیر بدون همپوشانی همچنان تابع FutureMap.stash را با تنسورهایی روی دو دستگاه فراخوانی می‌کند در نسخه‌ی 0.5.22 باز است. همپوشانی را روشن نگه دارید 2.4
سیگنال SIGTERM به گروه فرایندها (لاگ) لاگ هنگام خاموش شدن کرش ثبت می‌کند فرایند فرزند اسکژولر زودتر از بین رفت، بنابراین فرایند والد بدون تخلیه (drain) وارد مسیر کرش شد فقط به فرایند اصلی SIGTERM بفرستید 7.1
گارد حافظه روی GB10 (گزارش) راه‌اندازی حین تخصیص استخر KV متوقف شد. لاگ سرور این راه‌اندازی‌ها نگهداری نشد یک دیمن گارد روی سیستم، اسکژولر را متوقف کرد که ظرف 5 ثانیه تا 36.7 GiB رشد کرده بود گارد را متوقف کرده یا برای سرور پیکربندی کنید 3.2
خطای درایور NV_ERR_NO_MEMORY روی GB10 (گزارش) رگباری از خطوط سرریز حافظه‌ی درایور در لاگ کرنل این لاگ‌ها به تاریخ 2026-10-16 و روز اولین راه‌اندازی‌های ما برمی‌گردند. چون لاگ‌های سرور آن روز ذخیره نشده، امکان تطبیق هر رگبار لاگ با یک شروع مشخص وجود ندارد همه‌ی سرورها در تست‌های بعدی پایدار و سالم شدند. هشدار را بر اساس بررسی سلامت تنظیم کنید، نه این خط 3.2
نصب با pip روی هاست L4 بدون CUDA toolkit (گزارش) چهار شکست در راه‌اندازی: Python.h، سپس nvcc، هدرهای FlashInfer، و بعد -lcudart کامپایلرهای کرنل در زمان راه‌اندازی به جعبه‌ابزار کامل نیاز دارند از ایمیج آماده یا هاستی با CUDA toolkit کامل استفاده کنید 7.1
بنچمارک با HF_HUB_OFFLINE=1، لاگ ذخیره نشده مجموعه داده‌ی random با همه‌ی مدل‌های روی دیسک به خطا خورد این مجموعه داده ShareGPT را از Hugging Face Hub دانلود می‌کند استفاده از --dataset-name random-ids یا یک --dataset-path محلی 7.1
مقدار --chunked-prefill-size 8192 روی L4 (گزارش) راه‌اندازی با خطای PyTorch INTERNAL ASSERT FAILED پایان یافت گراف پیش‌پرکنی برای 8,192 توکن به بیش از 2.33 گیگابایت باقی‌مانده از استخر KV نیاز داشت روی کارت‌های 24 گیگابایتی اندازه‌ی تکه پیش‌فرض 4,096 را حفظ کنید 2.2
مقدار --tp-size 2 روی کارت دوم مشترک L4 (گزارش) خطای RuntimeError: The memory capacity is unbalanced در زمان راه‌اندازی دو پاد کاربری دیگر 3.5 گیگابایت از کارت دوم را اشغال کرده بودند از پردازنده‌های گرافیکی کاملاً آزاد یا یک کارت گرافیک استفاده کنید 6.1
پیش‌پرکنی و رمزگشایی روی دو کارت L4 از طریق TCP (گزارش، خلاصه‌ی خطوط) بنچمارک همه‌ی درخواست‌ها را موفق ثبت کرد، با 0 توکن خروجی بازتوکن‌سازی‌شده و میانگین TTFT برابر با 0.00 میلی‌ثانیه صف انتقال به استخر کوچک رمزگشایی پر شد و نشست انتقال شکست خورد در هر بنچمارک تفکیک‌شده مقدار Total generated tokens (retokenized) را بخوانید 6.3
نمونه‌گیر FlashInfer در vLLM روی L4 (گزارش) خطای Engine core initialization failed پس از ساخت JIT کامپایلر CUDA و هدرهای CUDA toolkit موجود در محیط نصب با هم همخوانی نداشتند استفاده از VLLM_USE_FLASHINFER_SAMPLER=0 برای بنچمارک حریصانه (greedy) 5.3
کتابخانه Miles با --attn-implementation triton (لاگ) خطای ValueError: Specified attn_implementation="triton" is not supported بخش آموزش‌دهنده (trainer) بک‌اند Triton را نمی‌پذیرد از ساختاری استفاده کنید که هر دو طرف از آن پشتیبانی کنند 7.2
حالت تماماً هم‌سیاست (true on-policy) در Miles روی GB10 (لاگ) موتور SGLang با شرط اعتبارسنجی FA3 SM متوقف شد، سپس جاب حدود 200,000 خطای 503 طی 63 دقیقه لاگ کرد و هرگز متوقف نشد الگوریتم FA3 فقط از معماری‌های SM 8.0 تا 9.0 پشتیبانی می‌کند و حلقه‌ی شبیه‌سازی مجدداً به موتور مرده درخواست می‌فرستد لاگ SGLang را بررسی کنید و سازگاری کرنل‌ها را با کارت گرافیک خود بسنجید 7.2
خاموش شدن GB10 زیر بار پردازشی Miles (گزارش) سیستم سه بار در تاریخ 2026-10-18 خاموش شد لاگ‌ها علتی را ثبت نکرده‌اند اسکریپتی وجود دارد که با رسیدن دمای GPU به 84 درجه‌ی سانتی‌گراد، کانتینر را متوقف می‌کند 7.2
مدل پیش‌نویس EAGLE-3 برای Qwen3-30B-A3B راه‌اندازی متوقف شد: طول زمینه هدف یعنی 262144 از مقدار مشتق‌شده‌ی 2048 بزرگ‌تر است کانفیگ مدل پیش‌نویس 2,048 موقعیت تعریف کرده است متغیر SGLANG_ALLOW_OVERWRITE_LONGER_CONTEXT_LEN=1 همان‌طور که در دستورالعمل‌های SGLang آمده است. مدل پیش‌نویس Qwen3-8B طول 40,960 را تعیین کرده و بدون این متغیر اجرا می‌شود 4.4
افت کارایی حرارتی (thermal throttle) در تست فراگیر L4 (گزارش) گراف‌های CUDA بهبودی نشان ندادند و مقادیر سید در یک نقطه تا 49 درصد اختلاف داشتند پردازنده‌ی GPU 0 روی دمای 87 درجه‌ی سانتی‌گراد و فرکانس 360 مگاهرتز (از 2,040 مگاهرتز) کار می‌کرد و مکانیزم کاهش سرعت حرارتی فعال بود در هر بار اجرا، فرکانس و دمای کارت گرافیک را ثبت کنید 5.1
دمای 0 روی سرور با تنظیمات پیش‌فرض (لاگ) دریافت 2 پاسخ متفاوت در 5 درخواست یکسان روی GB10 در آزمایش‌های ما ریشه‌یابی نشد استفاده از --enable-deterministic-inference در 5 بار آزمایش، 1 پاسخ یکسان تولید کرد 4.6

بخش 1 و بخش 2: مسیر پردازش درخواست

رخداد نشانه علت راه‌حل یا وضعیت بخش
گزارش عملیاتی لینکدین، 2026-02 تاخیر صدک 99 در حد چند ثانیه روی مدل‌های رتبه‌بندی کوچک توکن‌سازی، پیام‌های ZMQ، فرایند آزادسازی حافظه (garbage collection)، قفل مفسر سراسری (GIL) و اسکژولر توکن‌سازی دسته‌ای، مسیر امتیازدهی، و اجرای gc.freeze بعد از مرحله‌ی گرم کردن (درخواست ادغام 9241) 1.2، 2.1
#36889 گزینه‌ی --max-running-requests 8 اعمال شد، اما نرخ پردازش روی 2 استریم ثابت ماند کش وضعیت Mamba درخواست‌های فعال را به 2 عدد محدود کرد فقط یک خط اطلاع‌رسانی این سقف را اعلام می‌کند 2.2
#8463 ثبت مکرر KV cache pool is full. Retract requests. و به دنبال آن شکست بررسی‌های سلامت فرایند بازپس‌گیری (retraction) نتوانست حافظه‌ی کافی آزاد کند و مکرراً اجرا شد بدون اصلاح بسته شد. در نسخه‌ی 0.5.22 اسکژولر آخرین درخواست را لغو می‌کند 2.3
#26248 افت سرعت رمزگشایی از حدود 429 به 20 الی 38 توکن بر ثانیه پس از بازپس‌گیری ثبت نشده است به علت عدم فعالیت بسته شد 2.3
#14972 خطای تخصیص بعد از پیام KV cache pool is full در 94 درصد مصرف حافظه، با وجود روشن بودن همپوشانی بازپس‌گیری، درخواست‌هایی را که یک گام دیرتر تمام می‌شوند محاسبه نمی‌کرد درخواست ادغام #15626 بدون merge بسته شد. اسکژولر نسخه‌ی 0.5.22 آن را مدیریت می‌کند 2.4
#34740 بار محاسباتی توکن‌زدایی به صورت مربعی با طول خروجی افزایش یافت توکن‌های بایتی که هرگز به یک نویسه کامل تبدیل نمی‌شوند آفست‌ها را به جلو نمی‌برند باز است 2.5

بخش 3: کش کلید-مقدار (KV cache)

رخداد نشانه علت راه‌حل یا وضعیت بخش
#39675 سرریز حافظه در اولین پیش‌پرکنی روی Apple MPS ظرفیت نامشخص، کسر حافظه را روی 0.95 قرار داد مقدار --mem-fraction-static را صراحتاً تنظیم کنید 3.2
#42510 تخصیص استخر مدل پیش‌نویس شکست خورد نسخه‌های مدل پیش‌نویس هنگام تعیین اندازه‌ی استخر اصلی همچنان در حافظه باقی مانده بودند گزارش شده است 3.2
#6027 پرامپت 64K توکنی DeepSeek-V3 در لایه‌ی اتنشن دچار سرریز حافظه شد لاگ نشان می‌داد برای 274,934 توکن جا وجود دارد، اما اتنشن باز هم سرریز کرد کسر حافظه را کاهش دهید 3.2
#43201 متون قدیمی کلاس ChunkCache را توصیف می‌کنند که دیگر وجود ندارد این کلاس در تاریخ 2026-10-08 حذف شد گزینه‌ی --disable-radix-cache یک شیء UnifiedRadixCache غیرفعال می‌سازد 3.3
#32459 افت نرخ اصابت پرامپت‌های طولانی از 97 به 40 و سپس 53 درصد با EAGLE فضای KV اضافی برای حدس زدن توکن‌ها، درخت را مجبور به تخلیه‌ی پرامپت‌ها کرد با فعال‌سازی هر قابلیت جدید، نرخ اصابت را اندازه‌گیری کنید 3.3
#35129 نرخ اصابت 66.8 درصد و بیرون راندن نشست‌های دیگر با بارگذاری مجدد HiCache وجود هش تصادفی و پیام متغیر در پرامپت سیستم، و بارگذاری مجدد در نبود فضای کافی اصلاح پرامپت نرخ اصابت را به 94.4 درصد رساند 3.4، 3.5
گزارش عملیاتی Jarvislabs، 2026-08 23 درصد از توکن‌های ورودی مجدداً محاسبه شدند درخواست‌ها به سرورهایی بدون پیشوند کش‌شده‌ی مربوط ارسال می‌شدند با افزودن یک هدر هر مکالمه به یک GPU متصل ماند: نرخ اصابت به 64.7 الی 92.1 درصد رسید 3.4، 6.4
#30760 یکی از رتبه‌های موازی‌سازی تنسور در بررسی پیش‌واکشی بی‌پایان معطل ماند در حالی که بقیه ادامه دادند ثبت نشده است گزارش شده است 3.5
#42465 هجوم ناگهانی پرامپت‌های 540,000 توکنی با HiCache روشن همه‌ی رتبه‌ها را قفل کرد ثبت نشده است همان پرامپت‌ها بدون HiCache اجرا می‌شوند 3.5
#39830 ارائه‌ی پاسخ‌های سلیس اما نامربوط به پرامپتی دیگر در 20 بار از 20 اصابت به لایه‌ی هاست اصابت به سطح هاست در HiCache روی مدل با اتنشن خطی ترکیبی مدل‌های ترکیبی را قبل از اعتماد به کش تست کنید 3.6
#22935 پرامپت کاملاً یکسان هیچ توکنی را بازاستفاده نکرد شکستن یک گره باعث ایجاد گره‌ای بدون وضعیت Mamba شد برای پرامپت‌های تکراری مقدار #cached-token را بررسی کنید 3.6
#37834 افت نرخ اصابت از 88.2 به 65.9 درصد، و افزایش TTFT از 226 میلی‌ثانیه به 1,063 میلی‌ثانیه اعمال یک فلگ، استراتژی Mamba را روی no_buffer اجبار کرده بود تنظیمات را روی --mamba-radix-cache-strategy auto نگه دارید مگر این که بازدهی بهتری اندازه‌گیری کرده باشید 3.6
#36131 کاهش سرعت رمزگشایی تک‌استریمی در مدل‌های ترکیبی با اتنشن پنجره‌ی لغزان (SWA) مقدار پیش‌فرض جدید، جایگاه‌های SWA خارج از پنجره را آزاد کرد گزارش شده است 3.6

بخش 4: هر گذر رو به جلو

رخداد نشانه علت راه‌حل یا وضعیت بخش
#23769 مدل DeepSeek-V4-Pro-FP8 حین ثبت گراف از کار افتاد با موازی‌سازی داده در اتنشن، اندازه‌ی دسته‌ی گراف به ازای هر رتبه شمرده می‌شود کاهش اندازه‌ی دسته‌ی گراف یا انتخاب کسر حافظه‌ی کمتر 4.1
#36478 گزینه‌ی disable_piecewise_cuda_graph=True در API پایتون خطای TypeError داد درخواست ادغام #23906 این فیلد را به تنظیمات گراف در سطح هر فاز منتقل کرد استفاده از cuda_graph_backend_prefill="disabled" 4.1
گزارش عملیاتی joshua8.ai، 2026-01 فریم‌ورک SGLang روی کارت SM120 فقط در حالت مشتاق (eager mode) اجرا شد و NVFP4 کار نکرد پشتیبانی از معماری جدید قبل از مقایسه‌ی موتورها، سازگاری کپچر و فرمت وزن‌ها را بررسی کنید 4.1، 4.3
#17411 میانه‌ی ITL روی سرور H20 از 39.44 به 283.52 میلی‌ثانیه افت کرد نسخه 0.6.1 FlashInfer روی کارایی کرنل اتنشن Hopper افت ایجاد کرد موتور SGLang حالت fa3 را به عنوان پیش‌فرض Hopper تنظیم کرد 4.2
گزارش عملیاتی Cloudflare، 2026-08 کش KV با دقت BF16 در همروندی 64 دچار سرریز حافظه شد ظرفیت کش پاسخگو نبود استفاده از کش KV با فرمت FP8 توانست دو برابر توکن را نگهداری کند 3.1، 4.3
خلاصه اخبار Pivot News، 2026-05 کلاستر ناهمگن پس از پیوستن کارت‌های RTX 4090 کرش کرد پردازش فرمت FP4 به قابلیت محاسباتی نسخه 10.0 نیاز داشت راهکار نرم‌افزاری برای کارت‌های قدیمی‌تر وجود ندارد 4.3، 5.3
#5274 مدل EAGLE-3 در همروندی 20 نرخ پردازش را از 217.8 به 164.4 توکن بر ثانیه کاهش داد حدس زدن توکن‌ها توانی محاسباتی مصرف می‌کند که پردازش یک دسته‌ی کامل به آن نیاز دارد تکنیک پیش‌بینی و حدس توکن را در دسته‌های کوچک به کار بگیرید 4.4
#6783 نرخ پذیرش با 10K ورودی تا 1.2 توکن کاهش یافت کانفیگ مدل پیش‌نویس 2,048 موقعیت و بدون مقیاس‌بندی RoPE داشت اضافه کردن مقیاس‌بندی RoPE و تنظیم 131,072 موقعیت به تنظیمات مدل پیش‌نویس 4.4
گزارش عملیاتی David Noel Ng، 2026-08 نرخ پذیرش 1.3 تا 1.8 توکن روی DeepSeek-V4-Flash لودر مدل پیش‌نویس وزن‌های خبره مشترک (shared expert) را مپ نکرده بود درخواست ادغام #33276 4.4
#37707 فیلد رشته مقادیری کوتاه‌تر از minLength تعیین‌شده پذیرفت کتابخانه xgrammar قاعده‌ی مذکور را با فعال بودن همزمان فیلد pattern نادیده گرفت باز است 4.5
#38863 مصرف CPU برای بیت‌ماسک با افزایش طول خروجی در حالت پیش‌بینی توکن صعودی شد متد بازگشت به عقب در هر فراخوانی یک لیست دیباگ را کپی می‌کرد باز است 4.5
#43055 مدل gpt-oss-20b در حالت پیشوند خروجی‌های حریصانه‌ی متفاوتی داد کرنل قطعی Triton تایل‌های KV را با پیشوند اصلاح‌شده تراز می‌کرد باز است 4.6
#43413، #36174، #31261 حالت قطعی مدل‌های ترکیبی Mamba2، DeepSeek-V4، یا Qwen3.5 را پوشش نمی‌دهد این معماری‌ها فاقد کرنل‌های پایا نسبت به دسته (batch-invariant) هستند هنوز پشتیبانی نمی‌شود 4.6
#39597 خروجی متن حریصانه بعد از ری‌استارت با DFLASH تغییر کرد تنظیم خودکار FlashInfer رویکردهای کرنل متفاوتی برگزید استفاده از --disable-flashinfer-autotune یا حالت قطعی 4.6

بخش 5: سنجش کارایی

رخداد نشانه علت راه‌حل یا وضعیت بخش
#3196 سرعت 13 توکن بر ثانیه برای DeepSeek V3 روی هشت پردازنده‌ی گرافیکی H200 اسکریپت به جای توکن کلمات را می‌شمرد و تاخیر تا دریافت اولین توکن (TTFT) را در نرخ حساب می‌کرد اندازه‌گیری دقیق با استفاده از کلاینت استاندارد بنچمارک 5.1
سنجه‌ی sglang:utilization این شاخص روی سرور فعال و شلوغ عدد 0 را نشان می‌دهد پس‌رفت نرم‌افزاری که توضیحات کد آن را به ایشوی #22713 ارجاع می‌دهد سنجه‌های طول صف و تاخیر را رصد کنید 5.2
#35884 پروب‌های ارزیابی سلامت ناموفق بار سیستم را بالا بردند فراخوانی /health در صورت مواجهه با وقفه (timeout)، درخواست اصلی خود را لغو نکرد به ارزیابی ناموفق صرفاً به عنوان یک علامت مشکل نگاه کنید نه تمام آن 5.2، 7.1
#22511 خطای "health check failed" زیر بار سنگین روی مدل GLM-5 به مدت 20 ثانیه زیر بار شدید هیچ خروجی به بخش توکن‌زدایی نرسید برای بررسی آمادگی از اندپوینت /ready استفاده کنید 5.2، 7.1
وبسایت AIMultiple، 2026-01 ادعای "SGLang 29% faster" در حداقل پنج مطلب مختلف تکرار شد تست غیرهمزمانی که نسخه‌ی قدیمی SGLang v0.2.3 را به کار گرفته بود نتایجی را که نسخه‌ی دقیق ابزار را قید نکرده‌اند نادیده بگیرید 1.3، 5.3
بحث شماره #17221 در vLLM مصرف حافظه در ظاهر 7 گیگابایت در SGLang در برابر 21 گیگابایت بود تنظیم فلگ نادرست: پارامتر --context-length باید با --max-model-len سنجیده شود موتورها را فقط با فلگ‌های واقعاً هم‌ارز مقایسه کنید 5.3

بخش 6 و بخش 7: ناوگان‌ها و عملیات زیرساخت

رخداد نشانه علت راه‌حل یا وضعیت بخش
#19953 موازی‌سازی داده‌ی اتنشن در چند نود در اولین پیام خود قفل شد سوکت ZeroMQ بدون پشتیبانی از IPv6 به یک آدرس --dist-init-addr با IPv6 متصل شده بود اصلاحیه‌ای پیشنهاد شد، اما ادغام آن تایید نگردید 6.1
#9787 یک کارت پیش‌پرکنی بیکار شد، سپس همه‌ی فرایندهای پیش‌پرکنی کرش کردند مسیریابی نامتعادل در توزیع DeepEP توکن‌های بسیار زیادی به یک کارت فرستاد تکه‌های کوچک‌تر، چیدمان بهینه‌ی خبره‌ها، و استفاده از EPLB 6.2
#12591 مقدار TTFT در ساختار تفکیک‌شده بالاتر از پیاده‌سازی تک‌سرور شد نسخه‌ی قدیمی موتور انتقال Mooncake موتور Mooncake را به‌روزرسانی کنید 6.3
#9266 خطای "Prefill bootstrap failed" در 64 درخواست همزمان مهلت زمانی مسیریاب برای کلاینت پیش‌پرکنی بسیار کوتاه بود درخواست ادغام #9803 6.3
#9926 خطاهای "Aborted by AbortReq" کلاینت یا مسیریاب عملیات را متوقف کردند قبل از انتقال، مهلت‌های زمانی را بازبینی کنید 6.3
گزارش عملیاتی Novita AI، 2026-01 افت شدید TTFT هنگام ترکیب معماری تفکیک‌شده و همپوشانی انتقال KV منتظر اجرای کرنل بعدی می‌ماند فلگ مورد استفاده آن‌ها در کد 0.5.22 موجود نیست 6.3
#22095 افت دو برابری در نرخ پردازش روی سرورهای GB200 NVL72 تغییر نسخه‌ی مسیریاب خارج از هسته‌ی SGLang نسخه‌ی مسیریاب را همگام با موتور سرویس‌دهی هماهنگ کرده و بنچمارک بگیرید 6.4
#10608 خطای "Failed to select prefill/decode worker" در حالت cache_aware مسیریابی تفکیک‌شده همزمان با شناسایی سرویس‌ها در کوبرنتیز کاربران موقتاً به الگوریتم نوبت‌گردشی (round robin) بازگشتند 6.4
گزارش عملیاتی CERIT-SC، 2026-04 درج فراخوانی ابزار در استدلال، گیر کردن‌های نادر و حلقه‌هایی که کش KV را اشغال کردند ترافیک برآمده از ایجنت‌ها با پرامپت‌های فوق‌العاده طولانی محدود کردن سقف خروجی به 32K و اعمال جریمه‌ی تکرار (presence penalty) 7.1
گزارش عملیاتی Doubleword، 2026-04 شروع سرد به مدت 695 ثانیه بارگذاری 531 ثانیه‌ای وزن‌ها و خالی بودن کش‌های کرنل کش‌های پایدار و ثبت چک‌پوینت از فرایند: کاهش به 9.6 ثانیه 7.1
radixark/miles#860 اندپوینت /release_memory_occupation در مدل‌های مبتنی بر پنجره‌ی لغزان تاثیری نداشت استخر SWA قابلیت کاهش مصرف حافظه را غیرفعال می‌کند باز است 7.2
radixark/miles#1485 خروجی‌های متفاوتی در down_proj روی موازی‌سازی تنسور 2 ایجاد شد دو موتور نتایج جزئی فرمت BF16 را با ترتیبی ناهمسان جمع زدند باز است 7.2
radixark/miles#3714 شکست انتقال وزن‌ها با خطای Message truncated حالت قطعی سرویس‌دهی سقف کانال‌های NCCL را روی 8 قفل کرد در حالی که بخش آموزش به 24 نیاز داشت باز است 7.2
radixark/miles#3277 ایجاد مسیرهای جدید MoE کنار لگاریتم احتمالات قبلی پس از بازپس‌گیری پیش‌پرکنی مجدد با وزن‌های جدید مسیرهای قبلی را بازنویسی کرد باز است 7.2

منابع: بخش‌های تشریح رخدادها در پوشه‌ی sections/؛ لاگ‌های capture/out/oom-exploratory.log، server-no-overlap.log، server-default.log؛ گزارش‌های capture/gpu/incidents/gb10-memory-guard-pauses.txt، gb10-driver-no-memory.txt، l4-toolchain-failures.txt، l4-thermal-throttle.txt؛ خروجی‌های capture/gpu/out-gb10/determinism.txt و deterministic-determinism.txt؛ سند docs/cookbook/specbundle/specbundle_usage.mdx در نسخه‌ی v0.5.22؛ ایشوها و درخواست‌های ادغام گیت‌هاب که در جدول‌ها لینک شده‌اند؛ و فایل‌های capture/gpu/incidents/l4-chunk-8192-prefill-graph-oom.txt، capture/gpu/incidents/l4-tp-unbalanced-memory.txt، capture/gpu/incidents/l4-pd-mooncake-tcp-queue.txt، capture/gpu/incidents/l4-pd-summary-lines.txt، capture/gpu/incidents/l4-vllm-flashinfer-jit.txt، capture/gpu/incidents/gb10-boot-list.txt، capture/gpu/out-miles/true-on-policy-error.log، capture/gpu/out-miles/true-on-policy-fa3-error.log.

ترجمه‌ی فارسی Incident index از راهنمای SGLang 101 دوره‌ی AI Engineering from Scratch، نوشته‌ی Rohit Ghumare، تحت مجوز MIT. دستورها، لاگ‌ها و اعداد عیناً از اجراهای ثبت‌شده‌ی متن اصلی‌اند. فهرست راهنما