این راهنما منابع خود را بر اساس میزان اعتبار رتبهبندی میکند. در این صفحه تمام منابع بیرونیِ مورد استناد در بخشهای مختلف، به همراه بخشهایی که از هر منبع استفاده کردهاند، فهرست شده است.
این رتبهها با نحوهی تدوین این راهنما مطابقت دارند. در صورت بروز اختلاف میان دو منبع، اولویت با منبع رتبهبالاتر است و در متن همان بخش نیز به این موضوع اشاره میشود. فایلهای سورس SGLang که در هر بخش استفاده شدهاند، در سورس خود راهنما ثبت شدهاند و در فرایند بازبینی بررسی میشوند؛ بنابراین در این صفحه دوباره فهرست نشدهاند. تمامی صفحات زیر در تاریخ 2026-10-16 بررسی شدهاند. مقالهها و گزارشهایی هم که برای بهروزرسانی پژوهشی افزوده شدند، در تاریخ 2026-10-22 مطالعه شدهاند.
منابع رتبهبندیشده
| رتبه |
منبع |
مواردی که راهنما از آن میگیرد |
کلید ارجاع منبع |
| 1 |
سورس SGLang در تگ baa9befa |
تمامی پیشفرضها و سازوکارها |
فایلهای سورس هر بخش، در سورس راهنما |
| 2 |
اجراهای ثبتشده روی Mac و روی پردازندههای گرافیکی |
تمامی لیستینگها و اعدادی که بهعنوان دادههای اندازهگیریشده مشخص شدهاند |
نام فایلِ ثبت اجرا |
| 3 |
ایشوها و پولریکوئستهای SGLang |
رخدادها و تاریخچهی طراحی قابلیتها |
issue و شمارهی آن |
| 4 |
مقالهها |
طراحی اولیهی توجه رادیکس (RadixAttention) و روشهایی که SGLang پیادهسازی میکند |
paper و عنوان مقاله |
| 5 |
مستندات SGLang در این تگ |
رفتارهای مستندشده، تطبیقدادهشده با کد |
docs و سرفصل مربوطه |
| 6 |
گزارشهای میدانی مستقل |
GPUها و مقیاسهایی که امکان اجرای آنها در این راهنما وجود نداشت |
field، نویسنده و ماه |
| 7 |
گزارشهای تیم SGLang و ارائهدهندگان سختافزار |
ادعاها؛ که همواره با ذکر نام نویسنده مشخص شدهاند |
team یا نام ارائهدهنده، و ماه |
رتبهی 1 و رتبهی 2: کد و اجراهای ثبتشده
| منبع |
استفادهشده در |
SGLang 0.5.22، تگ v0.5.22، کامیت baa9befa381511cd4d56f83980951e5a45fffc6d، github.com/sgl-project/sglang |
تمامی بخشها |
Miles 0.1.2، تگ v0.1.2، کامیت a22fd824، github.com/radixark/miles |
7.2 |
| مجموعهابزار ثبت اجرا و خروجیهای آن روی Mac، ثبتشده در تاریخ 2026-10-16 |
تمامی بخشهای دارای لیستینگ |
| مجموعهابزار GPU و اجراهای ثبتشدهی آن، ثبتشده از 2026-10-16 تا 2026-10-21 روی یک نود NVIDIA L4 و یک سرور DGX Spark (GB10) |
تمامی بخشهای دارای دادههای اندازهگیریشدهی GPU |
ایمیج Miles با شناسهی radixark/miles:latest در کامیت 08752a12 از Miles، به همراه SGLang 0.5.22.dev46+g7b6993a |
7.2 |
رتبهی 3: پولریکوئستها
ایشوها در فهرست رخدادها آمدهاند. پولریکوئستهای زیر دلایل و جزئیات تغییرات طراحی را توضیح میدهند.
| پولریکوئست |
تغییرات اعمالشده |
استفادهشده در |
| #9241 |
گرمکردن اولیه (warm-up) و به دنبال آن مسدودسازی زبالهروب (garbage collector) |
1.2 |
| #11210 |
همپوشانی با دو استریم CUDA درون یک ترد |
2.4 |
| #14312 |
تغییر نام sgl-router به sgl-model-gateway |
6.4 |
| #23906 |
انتقال فیلد گراف پیشپرکنی (prefill) به پیکربندی تفکیکشدهی هر فاز |
4.1 |
| #29458 |
گرافهای پیشپرکنی تقسیمپذیر (breakable) در CUDA |
4.1 |
| #32114 |
حذف Cutlass MLA، الگوریتم Dual Chunk FlashAttention و کرنل استاندارد GPTQ CUDA |
4.2، 4.3 |
| #37898 |
افزایش سقف گراف رمزگشایی (decode) از 24 به 48 برای کارتهای گرافیک 20 تا 35 گیگابایتی |
4.1 |
| #35455 |
بارگذاری مقیاسهای کلید-مقدار در چکپوینتهای compressed-tensors؛ merge در تاریخ 2026-08-20 |
4.3 |
| #40795 |
حذف نامهای مستعار قدیمی بنچمارک |
5.1 |
| #41818 |
اضافهشدن --attn-dp-size و اختصاص یک معنای مشخص به --dp-size |
6.1 |
| #42285، #42286، #42287 |
حذف مسیر torch.compile برای گرافهای پیشپرکنی |
4.1 |
رتبهی 4: مقالهها
| مقاله |
استفادهشده در |
| Zheng and others, SGLang: Efficient Execution of Structured Language Model Programs, arXiv 2312.07104 |
2.2، 3.1، 3.3، 4.5 |
| سیاست LRU بهینهسازیشده برای انتهای صف بر اساس نامگذاری کد، arXiv 2510.15152 |
3.5 |
| Lee and others, From Tokens to Layers: Redefining Stall-Free Scheduling for MoE Serving with Layered Prefill, arXiv 2510.08055 |
2.2 |
| Liu, Yu, and Yang, When Fancy Eviction Fails: Rethinking Cache Replacement For LLM Prefix Reuse, arXiv 2609.28870 |
3.5 |
| Abramovich and others, SPEED-Bench: A Unified and Diverse Benchmark for Speculative Decoding, arXiv 2604.09557 |
4.4، 6.2 |
| Kumar, Sanghavi, and Das, Test-Time Speculation, arXiv 2605.09329 |
4.4 |
| Agrawal and others, On Evaluating Performance of LLM Inference Serving Systems, arXiv 2507.09019 |
4.4 |
| Zhao and others, CoRun: Padding is Simple and Efficient for Deterministic LLM Inference, arXiv 2608.14376 |
4.6 |
| Qin and others, Vosti: Specifying, Implementing, and Verifying Deterministic LLM Inference, arXiv 2609.38981 |
4.6 |
| Patodiya, Same Request, Different Answer: Quantization Amplifies Cache-Induced Divergence in LLM Serving, arXiv 2609.04748 |
4.6 |
| Chandrasekar and Kramberger, Identifying and Mitigating Systemic Measurement Bias in Production LLM Inference Benchmarks, arXiv 2605.24217 |
5.1 |
| Li and others, Revisiting Disaggregated Large Language Model Serving for Performance and Energy Implications, arXiv 2601.08833 |
6.3 |
رتبهی 5: مستندات SGLang در این تگ
| صفحه |
استفادهشده در |
docs/docs/hardware-platforms/apple_metal.mdx |
پیشگفتار، 2.1، 2.4 |
docs/docs/advanced_features/hyperparameter_tuning.mdx |
2.3 |
docs/docs/advanced_features/hicache_design.mdx و radix_eviction_policy.mdx |
3.5 |
docs/docs/advanced_features/attention_backend.mdx |
4.2 |
docs/docs/advanced_features/quantization.mdx |
4.3 |
docs/docs/advanced_features/speculative_decoding.mdx |
4.4 |
docs/docs/advanced_features/expert_parallelism.mdx |
6.2 |
docs/docs/advanced_features/pd_disaggregation.mdx |
6.3 |
docs/docs/get-started/install.mdx |
7.1 |
docs/docs/advanced_features/sglang_for_rl.mdx |
7.2 |
رتبهی 6: گزارشهای میدانی مستقل
رتبهی 7: گزارشهای تیم SGLang و ارائهدهندگان
منابع: front.md؛ خط Sources و ارجاعات تمامی فایلهای زیرِ پوشهی sections/.