مرجع R.6

منابع

Sources

این صفحه منابع این راهنما را بر اساس اعتبار و سندیت رتبه‌بندی می‌کند.

از این صفحه برای سنجش میزان اعتبار هر ادعا در این راهنما استفاده کنید.

هرگاه میان دو منبع اختلافی پیش بیاید، منبع بالاتر اولویت دارد و در همان صفحه هم به این نکته اشاره می‌شود.

رتبه منبع چه مواردی از آن در راهنما آمده است
1 سورس‌کد vLLM در نسخه‌ی 0.31.0 تمام مقادیر پیش‌فرض، نام تمام فلگ‌ها و همه‌ی سازوکارهای بخش 8
2 اجراهای آزمایشی خودمان روی NVIDIA L4 و DGX Spark تمام اعدادی که با برچسب سنجیده‌شده مشخص شده‌اند
3 ایشوها و پول‌ریکوئست‌های vLLM اشکالات شناخته‌شده و تاریخچه‌ی هر قابلیت
4 یادداشت‌های انتشار (Release notes) نسخه‌های vLLM مواردی که در هر نسخه اضافه، ویرایش یا حذف شده‌اند
5 مستندات vLLM در نسخه‌ی 0.31.0 رفتارهای مستندشده، پس از تطبیق با سورس‌کد
6 مقاله‌ها طراحی اولیه‌ی پجد اتنشن (PagedAttention) و دیکودینگ حدسی (Speculative Decoding)
7 پست‌های وبلاگی و سخنرانی‌های تیم vLLM و دیگران بستر فنی و پیشینه‌ی ماجرا، و هرگز نه مقادیر پیش‌فرض یا اعداد و ارقام

از چه چیزهایی استفاده نکرده‌ایم

ما نتایج بنچمارک ارائه‌شده از سوی شرکت‌ها یا تیم‌های دیگر را به‌عنوان شواهد برای تصمیم‌گیری مبنا قرار نداده‌ایم. هر جا که این راهنما نتیجه‌ای را از تیم دیگری نقل می‌کند، نام آن تیم را یک بار می‌آورد و تصریح می‌کند که این عدد متعلق به آن‌هاست.

منابع: این راهنما.

ترجمه‌ی فارسی Sources از راهنمای vLLM 101 دوره‌ی AI Engineering from Scratch، نوشته‌ی Rohit Ghumare، تحت مجوز MIT. دستورها، لاگ‌ها و اعداد عیناً از اجراهای ثبت‌شده‌ی متن اصلی‌اند. فهرست راهنما