مرجع R.6

فهرست شکل‌ها

Index of figures

تمام شکل‌های این راهنما، به ترتیب، بر اساس ادعای محوریِ مطرح‌شده در زیرنویس‌شان.

هر ردیف به شکل مربوطه پیوند دارد و این ادعا همان فیلد claim: در بلوک هر شکل است. اعداد اندازه‌گیری‌شده در شکل‌ها حاصل اجراهای ما روی Mac یا روی پردازنده‌های گرافیکی هستند و در هر بخش به فایل‌های مورد استفاده‌اش پیوند داده شده است. اعدادی که از گزارش‌های میدانی آمده‌اند، نام همان گزارش را با خود دارند. رنگ‌ها از پالت بخش مقدماتی پیروی می‌کنند:

  • آبی نشان‌دهنده‌ی فرایند (process) سرور SGLang است: مدیر توکن‌ساز، اسکژولر (scheduler) و توکن‌زدا
  • بنفش نشان‌دهنده‌ی مدل و گذر رو به جلو (forward pass) آن است: کرنل‌ها (kernels)، بک‌اندهای اتنشن (attention backends) و گراف‌های CUDA
  • سبز نشان‌دهنده‌ی کش کلید-مقدار (KV cache) است: جایگاه‌های (slots) استخر، گره‌های درخت مبنا (radix tree) و توکن‌های کش‌شده
  • شرابی نشان‌دهنده‌ی محاسبات مدل است: مراحل پیش‌پرکنی (prefill) و رمزگشایی (decode)
  • زیتونی نشان‌دهنده‌ی کلاینت و شبکه است
  • نیلی نشان‌دهنده‌ی استریم‌ها و پیام‌ها است
  • کهربایی نشان‌دهنده‌ی وضعیت چرخه‌ی حیات است؛ مثل وضعیت یک درخواست یا فاز کاریِ اسکژولر
  • سبزآبی نشان‌دهنده‌ی وضعیت پایدار (durable state) است: حافظه‌ی میزبان، سطوح ذخیره‌سازی و وزن‌های روی دیسک
  • رز نشان‌دهنده‌ی شکست و خطا است: کمبود حافظه، پس‌زدن درخواست (retraction)، لغو عملیات (abort) یا کرش
  • خاکستری نشان‌دهنده‌ی بخش‌های خارج از SGLang است: سیستم‌عامل، سایر برنامه‌ها و درایور GPU

منابع: بلوک‌های شکل در front.md و همه‌ی فایل‌های زیرمسیر sections/؛ فایل manual.json (پالت)

ترجمه‌ی فارسی Index of figures از راهنمای SGLang 101 دوره‌ی AI Engineering from Scratch، نوشته‌ی Rohit Ghumare، تحت مجوز MIT. دستورها، لاگ‌ها و اعداد عیناً از اجراهای ثبت‌شده‌ی متن اصلی‌اند. فهرست راهنما