سناریوهای رخداد

Incidents and scenarios

حوادث واقعی ثبت‌شده در مستندات ما. شواهد را مرحله‌به‌مرحله بخوانید و علت را پیدا کنید.

هر سناریو از اجرای واقعی روی سخت‌افزار واقعی ساخته شده است: وضعیت، شواهد (لاگ، متریک و پیکربندی، عیناً از همان اجرا)، سؤال‌ها و بعد راه‌حل گام‌به‌گام و مسیرهای اشتباه رایج.

سطح ۱ غربالگری ۶

  1. خطای 400 برای پاسخ‌های طولانی۱۵ دقیقهvLLM 0.31.0
  2. مصرف فقط 5 درصدی استخر، و با این حال کرش سرور۱۵ دقیقهSGLang 0.5.22 with the MLX backend
  3. پورتی که فقط روی یکی از آدرس‌های لوپ‌بک پاسخ می‌داد۱۵ دقیقهsbx v0.47.0
  4. فلگی در سیستم رهگیری که اجرای مدل را در همان ابتدا متوقف کرد۱۵ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  5. ساندباکس خودبه‌خود متوقف شد۱۵ دقیقهsbx v0.47.0
  6. رد کردن نام اتنشن توسط ترینر۱۵ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build

سطح ۲ میانی ۲۵

  1. تکه‌ی پیش‌پرکنی بزرگ‌تری که راه‌اندازی نشد۲۰ دقیقهSGLang 0.5.22
  2. شروع سرد پنج دقیقه‌ای روی GB10۱۵ دقیقهvLLM 0.31.0 in its release container
  3. کیتی از یک رجیستری محلی و سه امتناع مدل۲۰ دقیقهsbx v0.47.0
  4. شناسه‌ی درخواستی که در ابتدای پرامپت می‌نشیند۱۵ دقیقهSGLang 0.5.22
  5. اجرای مجددی که در سکوت از گام 0 شروع شد۲۰ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  6. خطای ایمپورت پاداش و اجرایی که هرگز متوقف نشد۲۰ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  7. به‌روزرسانی تدریجی که همه‌ی پاسخ‌های در حال تولید را قطع کرد۲۰ دقیقهSGLang 0.5.22 on its MLX path
  8. خاموش‌سازی سیستمی که تا ابد لغو وظایف را تکرار می‌کرد۲۰ دقیقهA2A 1.0.1 with the manual's capture kit (the test-runner, code-reviewer and deployer agents)
  9. مهار حرارتی که یک تست A/B را باطل کرد۲۰ دقیقهSGLang 0.5.22
  10. سهم موتور 0.02 و مسیر پیش‌روی شبیه‌سازی‌شده‌ای که شش برابر کندتر شد۲۰ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  11. یک ساعت سرکشی به وظیفه‌ای که منتظر ما بود۲۰ دقیقهA2A 1.0.1 with the manual's capture kit (the test-runner, code-reviewer and deployer agents)
  12. رد ضمنی‌ای که شبیه قطعی شبکه به نظر می‌رسید۲۰ دقیقهsbx v0.47.0
  13. غیرفعال کردن گراف‌های CUDA برای راه‌اندازی سریع‌تر۲۰ دقیقهSGLang 0.5.22
  14. پنج فراخوانی یکسان و اجرایی که خودش متوقف شد۲۰ دقیقهdocker-agent v1.149.0 and sbx v0.47.0
  15. چهار راه‌اندازی ناموفق بعد از pip install۲۰ دقیقهSGLang 0.5.22 from pip, and vLLM 0.31.0 from a uv install
  16. پاک‌سازی صف در 64 کاربر با FP8۲۰ دقیقهSGLang 0.5.22
  17. پروب‌های سلامتی که بار سیستم را بالا می‌برند۱۵ دقیقهSGLang 0.5.22 against vLLM 0.31.0
  18. یک خطا، دو وضعیت پاسخ۲۰ دقیقهA2A 1.0.1 with the manual's capture kit (the test-runner, code-reviewer and deployer agents)
  19. در گام ششم: آیا فرایند آموزش واقعاً دارد یاد می‌گیرد؟۲۰ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  20. کمبود حافظه هنگام راه‌اندازی روی GPU اشتراکی۱۵ دقیقهvLLM 0.31.0
  21. پیش‌نویسی که 2,048 موقعیت مکانی اعلام کرده بود۲۰ دقیقهSGLang 0.5.22
  22. کلید ثبت‌شده در لاگ فقط یک مقدار موقت (Placeholder) بود۲۰ دقیقهsbx v0.47.0
  23. غیرفعال کردن کش رادیکس به بهانه‌ی پیش‌بینی‌پذیری۲۰ دقیقهSGLang 0.5.22, with vLLM 0.31.0 as the second engine
  24. دو امتناع، دو نگارش، یک فایل ایجنت۲۰ دقیقهdocker-agent v1.149.0 and sbx v0.47.0
  25. کدام سمت با شکست مواجه شد: موتور یا ورودی؟۲۰ دقیقهrea 6.7.0 at 27dc42d with the Ghidra provider

سطح ۳ ارشد ۲۲

  1. کارتی که نام محیط عملیاتی را یدک می‌کشید۲۵ دقیقهA2A 1.0.1 with the manual's capture kit (the test-runner, code-reviewer and deployer agents)
  2. موتور رول‌اوت از کار افتاده و دیده‌بانی که کار را متوقف می‌کند۲۵ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  3. قطع استریمینگ، مجموعه‌ی تست را دو بار اجرا کرد۲۵ دقیقهA2A 1.0.1 with the manual's capture kit (the test-runner, code-reviewer and deployer agents)
  4. آزمون ناپایدار ایجنت به‌دلیل مقایسه‌ی نشست‌های اشتباه۲۵ دقیقهdocker-agent v1.149.0 and sbx v0.47.0
  5. پایگاه داده‌ی فقط‌خواندنی روی یک مانت خواندنی-نوشتنی۲۵ دقیقهsbx v0.47.0 and docker-agent v1.149.0 on the host, with the main build of docker-agent inside the template
  6. بنچمارک تفکیک‌شده‌ای که شکست‌ها را موفقیت شمرد۲۰ دقیقهSGLang 0.5.22 with the mooncake_tcp transfer backend
  7. هشداری روی یک خط لاگ درایور که 9 بار زنگ زد۲۵ دقیقهSGLang 0.5.22
  8. لیست خالی که ایجنت آن را «هیچ» خواند۲۵ دقیقهrea 6.7.0 at 27dc42d with the Ghidra provider
  9. افزایش سرعتی در یادگیری تقویتی که اصلاً واقعیت نداشت۲۵ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  10. مقیاس کش کلید-مقدار FP8 بی‌سروصدا روی 1.0 می‌ماند۲۰ دقیقهvLLM 0.31.0
  11. ترشینگ LRU در استخر کوچک، و سپس کرش۲۵ دقیقهSGLang 0.5.22
  12. بار بیشتر، زمان توکن اول را کمتر کرد۲۵ دقیقهSGLang 0.5.22
  13. Ray ترینر را روی حافظه‌ی یکپارچه متوقف می‌کند۲۰ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  14. انتخاب دیکودینگ حدسی بر اساس پرامپت‌های تصادفی۲۵ دقیقهSGLang 0.5.22
  15. عمق حدس در برابر اندازه‌ی دسته۲۵ دقیقهvLLM 0.31.0 and SGLang 0.5.22
  16. دمای 0 باز هم دو پاسخ متفاوت داد۲۵ دقیقهSGLang 0.5.22 and vLLM 0.31.0
  17. رد موازی‌سازی تنسور، گرسنگی موازی‌سازی داده۲۵ دقیقهSGLang 0.5.22
  18. زانوی بار کاری و سقفی که اوضاع را بدتر کرد۲۵ دقیقهvLLM 0.31.0 against SGLang 0.5.22
  19. پرش شکاف لاگ‌احتمال با تغییر موتور استنتاج۲۵ دقیقهSGLang 0.5.22 and vLLM 0.31.0 as rollout engines, with Miles main 08752a12
  20. دو کلاینت، دو عدد، یک سرور۲۵ دقیقهvLLM 0.31.0, measured by the SGLang 0.5.22 client and by vllm bench serve
  21. هر دو ارزیابی رد شدند، بدون آنکه حتی یکی اجرا شده باشد۲۵ دقیقهdocker-agent v1.149.0 and sbx v0.47.0
  22. طول یکنواخت پرامپت‌ها که وقفه را پنهان کرد۲۵ دقیقهvLLM 0.31.0 against SGLang 0.5.22

سطح ۴ استف ۷

  1. امتیاز انطباق با استاندارد 32.3 درصد۳۰ دقیقهA2A 1.0.1 with the manual's capture kit (the test-runner, code-reviewer and deployer agents)
  2. متوقف شدن موقت اسکژولر در حین راه‌اندازی توسط محافظ حافظه۳۰ دقیقهSGLang 0.5.22
  3. آزمون پایش نرخی که هرگز به حالت پایدار نرسید۳۰ دقیقهvLLM 0.31.0 and SGLang 0.5.22
  4. بازنویسی تابعی که موجه به نظر می‌رسید، اما معادل نبود۳۰ دقیقهrea 6.7.0 at 27dc42d with the Ghidra provider
  5. ارزیابی‌ای که اجرا را پیش از گام 0 متوقف کرد۳۰ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build
  6. کد خروج صفر، اما نه به معنای قبولی۳۰ دقیقهrea 6.7.0 at 27dc42d with the Ghidra provider
  7. سه بار ریبوت در یک روز زیر بار یادگیری تقویتی (RL)۳۰ دقیقهMiles main 08752a12 with its own SGLang 0.5.22 build