بخش 6.4 · گسترش به مقیاس بالا

انتخاب ایمیج مناسب برای GPU

Pick an image for your GPU

فهرست مطالب
  1. شروع با ایمیج رسمی
  2. تطبیق کرنل‌ها با GPU
  3. ثبت مشخصات محیط هر اجرا

ایمیج مشخص می‌کند GPU شما چه کرنل‌هایی را می‌تواند اجرا کند؛ بنابراین آن را متناسب با نسل پردازنده‌ی گرافیکی‌تان انتخاب کنید و دایجست (digest) آن را پین (pin) نمایید.

ابزار Miles درون یک ایمیج کانتینر اجرا می‌شود؛ ایمیجی که شامل خود Miles، نسخه‌ای پچ‌شده از SGLang، کتابخانه‌های ترینر (trainer) و کرنل‌های پیش‌ساخته‌ی GPU است. این کرنل‌ها همان بخشی هستند که ایمیج را به یک پردازنده‌ی گرافیکی خاص گره می‌زنند.

با پایان این بخش، می‌توانید ایمیج Miles مناسب برای GPU خود را انتخاب کرده و دقیقاً ثبت کنید که در هر اجرا از کدام ایمیج استفاده شده است.

شروع با ایمیج رسمی

تیم Miles ایمیج radixark/miles را با یک تگ به‌ازای هر نسخه و همچنین یک تگ latest منتشر می‌کند. هر ایمیج برای CUDA 13 و برای هر دو معماری linux/amd64 و linux/arm64 بیلد می‌شود.

در نسخه‌ی v0.1.2، ایمیج بر پایه‌ی SGLang v0.5.21 به همراه پچ‌های Miles روی آن ساخته شده است. بنابراین SGLang درون ایمیج، نسخه‌ی دست‌نخورده (stock) آن نیست. شماره‌ی نسخه‌ی آن را مستقیماً از داخل ایمیج بخوانید، نه از پروژه‌ی اصلی SGLang.

تطبیق کرنل‌ها با GPU

این ایمیج حاوی FlashAttention 2 و FlashAttention 3 است. بیلد FlashAttention 3 فقط معماری Hopper را هدف می‌گیرد. همان‌طور که در بخش 4.6 نشان داده شده است، روی هر GPU دیگری، تنظیمی که به FlashAttention 3 نیاز داشته باشد در همان ابتدای کار متوقف می‌شود.

مستندات Miles فهرستی از GPUهای NVIDIA از A100 تا GB300 و GPUهای AMD از MI300X تا MI355X را پوشش می‌دهد. پردازنده‌ی GB10 ما در این فهرست نیست؛ با این حال، ایمیج arm64 روی GB10 ما با ترینر FSDP و اتنشن پیش‌فرض FlashInfer به‌خوبی اجرا شد.

ثبت مشخصات محیط هر اجرا

تگ latest تغییر می‌کند. دو اجرا با فاصله‌ی یک هفته ممکن است تحت همان تگ یکسان، کدهای متفاوتی را اجرا کنند. در شروع هر اجرا سه مورد را ثبت کنید: دایجست ایمیج، commit مربوط به Miles و نسخه‌ی SGLang. در بخش 1.1 سه دستور لازم به همراه خروجی ما آمده است.

ایمیج latest ما حاوی کدهای Miles در تاریخ 2026-10-15 و بیلد در حال توسعه‌ی SGLang 0.5.22 بود که از نسخه‌ی رسمی v0.1.2 جدیدتر است.

برای تکرار یک اجرا، ایمیج را به‌جای تگ، با دایجست آن دریافت (pull) کنید:

docker pull radixark/miles@sha256:c64fa344e3a86715f03c0a1b6a422c474e0035355591a2f6da87bf52a74c52da

منابع: capture/gpu/out-gb10/image-identity.txt؛ capture/gpu/out-gb10/engine-settings.txt؛ فایل Dockerfile، اسکریپت بیلد و یادداشت‌های انتشار نسخه‌ی v0.1.2 ابزار Miles؛ فهرست سخت‌افزارها در README ابزار Miles.

ترجمه‌ی فارسی Pick an image for your GPU از راهنمای Miles 101 دوره‌ی AI Engineering from Scratch، نوشته‌ی Rohit Ghumare، تحت مجوز MIT. دستورها، لاگ‌ها و اعداد عیناً از اجراهای ثبت‌شده‌ی متن اصلی‌اند. فهرست راهنما