اقتصاد پلتفرم‌های استنتاج هوش مصنوعی؛ مقایسه شش ارائه‌دهنده بزرگ

بازار استنتاج مدل‌های زبانی دیگر محدود به اجاره‌ی مستقیم پردازنده‌های گرافیکی خام نیست. تنوع شیوه‌های قیمت‌گذاری—از پرداخت توکنی در Fireworks و Together گرفته تا اجاره‌ی دقیقه‌ای یا ثانیه‌ای در Baseten و Modal—تصمیم‌گیری مالی و فنی را پیچیده کرده است. انتخاب نادرست زیرساخت می‌تواند هزینه‌های عملیاتی استقرار مدل را چند برابر کند، به‌ویژه زمانی که ترافیک ورودی رفتار انفجاری یا غیرقابل پیش‌بینی دارد.

در این میان، توسعه‌دهندگان ایرانی علاوه بر چالش‌های بهینه‌سازی تاخیر و توان پردازشی، با موانع پرداخت ارزی نیز روبه‌رو هستند؛ زیرا کارت‌های بانکی داخلی برای پرداخت مستقیم به ارائه‌دهندگان ابری بین‌المللی کار نمی‌کنند و هرگونه هدررفت منابع مستقیماً هزینه‌های ارزی سنگینی تحمیل می‌کند. درک نقطه‌ی سر‌به‌سر میان قیمت‌گذاری توکنی و ظرفیت اختصاصی دقیقه‌ای، کلید مدیریت بهینه‌ی بودجه است.

این درس به شما یک ماتریس تصمیم‌گیری دقیق می‌دهد تا بر اساس نوع بار کاری، رفتار ترافیک و الزامات زمان پاسخ‌دهی، بهترین پلتفرم استنتاج را انتخاب کنید و بدانید هر ساختار هزینه در چه سناریویی برنده‌ی رقابت خواهد بود.

بازار استنتاج (Inference) در سال 2026 دیگر صرفاً اجاره‌ی زمان پردازنده‌ی گرافیکی (GPU) نیست؛ بلکه به سه بخش متمایز تقسیم شده است: سیلیکون‌های اختصاصی (Groq، Cerebras، SambaNova)، پلتفرم‌های GPU (مانند Baseten، Together، Fireworks، Modal) و بازارهای ارائه‌دهنده‌ی API (مثل Replicate، DeepInfra). پلتفرم Fireworks در 1 مه 2026 هزینه‌ی پردازنده‌ی گرافیکی خود را ساعتی 1 دلار افزایش داد، و ارزش‌گذاری 4 میلیارد دلاری آن‌ها با پردازش بیش از 10 تریلیون توکن در روز نشان می‌دهد مدل‌های متکی بر حجم بالا کاملاً جواب می‌دهند. پلتفرم Baseten نیز در ژانویه‌ی 2026 راند سرمایه‌گذاری سری E خود را به مبلغ 300 میلیون دلار و با ارزش‌گذاری 5 میلیارد دلار بست. قاعده‌ی جایگاه رقابتی ساده است: Fireworks تاخیر را بهینه‌سازی می‌کند، Together تنوع مدل‌ها را به حداکثر می‌رساند، Baseten بر جزئیات فنی و نیازهای سازمانی (Enterprise polish) متمرکز است، Modal تجربه‌ی توسعه‌دهنده‌ی (DX) بومی پایتون را ارتقا می‌دهد، Replicate دسترسی به مدل‌های چندحالته (Multimodal) را پوشش می‌دهد و Anyscale بر پردازش توزیع‌شده با پایتون تمرکز دارد. در این درس ماتریسی در اختیارتان می‌گذاریم که می‌توانید مستقیماً به یک بنیان‌گذار تحویل دهید.

اهداف یادگیری

• نام بردن از سه بخش بازار (سیلیکون‌های اختصاصی، پلتفرم‌های GPU و بازارگاه‌های API-محور) و نگاشت هر ارائه‌دهنده به بخش مربوط به خود.
• توضیح این‌که چرا مدل قیمت‌گذاری «به‌ازای هر توکن» در APIها به سمت منحنی هزینه‌ی موتور پردازشی میل می‌کند، نه سخت‌افزار خام.
• محاسبه‌ی هزینه‌ی موثر به‌ازای هر درخواست در حداقل سه ارائه‌دهنده و تحلیل شرایطی که در آن قیمت‌گذاری دقیقه‌ای (Baseten، Modal) از قیمت‌گذاری توکنی به‌صرفه‌تر می‌شود.
• تشخیص پلتفرم پیش‌فرضِ مناسب برای هر نوع بار کاری (سرورلس با ترافیک ناگهانی، ترافیک مداوم با نرخ پردازش بالا، مدل‌های فاین‌تیون‌شده، بارهای کاری چندحالته).

صورت مسئله

پلتفرم‌های مدیریت‌شده‌ی ابریِ بزرگ (Hyperscaler) را بررسی کرده‌اید و به این نتیجه رسیده‌اید که به سرویسی تخصصی‌تر و سریع‌تر نیاز دارید: Fireworks برای کاهش تاخیر، Together برای دسترسی به تنوع بالایی از مدل‌ها، یا Baseten برای اجرای یک مدل سفارشی فاین‌تیون‌شده. اکنون شش گزینه‌ی واقعی پیش رو دارید، اما صفحه‌های قیمت‌گذاری آن‌ها هم‌خوانی مستقیمی با هم ندارند؛ Fireworks قیمت را به‌صورت «دلار به‌ازای میلیون توکن» نشان می‌دهد، Baseten «دلار به‌ازای دقیقه»، Modal «دلار به‌ازای ثانیه» و Replicate «دلار به‌ازای پیش‌بینی» (Prediction). مقایسه‌ی سر‌به‌سر این گزینه‌ها بدون مدل‌سازی بار کاری (Workload) ممکن نیست.

بدتر از آن، مدل کسب‌وکار پشت هر ساختار قیمت‌گذاری متفاوت است. Fireworks موتور اختصاصی خود (FireAttention) را روی GPUهای اشتراکی اجرا می‌کند؛ در نتیجه نرخ هر توکن بازتاب‌دهنده‌ی منحنی بهره‌وری آن‌ها است. Baseten فریم‌ورک Truss و پردازنده‌های گرافیکی اختصاصی در اختیارتان می‌گذارد؛ بنابراین قیمت‌گذاری دقیقه‌ای نشان‌دهنده‌ی در اختیار داشتن انحصاری سخت‌افزار است. Modal یک پلتفرم واقعاً سرورلس بر پایه‌ی پایتون است؛ با صورت‌حساب ثانیه‌ای و زمان راه‌اندازی اولیه‌ی (Cold start) زیر یک ثانیه. خروجی در همه یکسان است (پاسخ یک مدل زبانی)، اما با سه تابع هزینه کاملاً متفاوت روبه‌رو هستید.

در این درس این شش پلتفرم را مدل‌سازی می‌کنیم و نشان می‌دهیم که هر کدام در چه شرایطی برنده می‌شوند.

مفاهیم کلیدی

سه بخش اصلی بازار

سیلیکون‌های اختصاصی (Custom silicon) — شامل Groq (با معماری LPU)، Cerebras (با معماری WSE) و SambaNova (با معماری RDU). مرحله‌ی رمزگشایی (Decode) در این تراشه‌ها معمولاً 5 تا 10 برابر سریع‌تر از یک کلاستر مبتنی بر GPU برای همان مدل است. قیمت هر توکن در آن‌ها بالاتر است (برای مثال Groq در اواخر 2025 روی مدل Llama-70B حدود 0.99 دلار به‌ازای هر میلیون توکن بود)، اما برای کاربردهای حساس به تاخیر رقیبی ندارند. Groq در محیط عملیاتی (پروداکشن) انتخابی استاندارد برای ایجنت‌های صوتی و ترجمه‌ی هم‌زمان است.

پلتفرم‌های GPU — شامل Baseten، Together، Fireworks، Modal و Anyscale. این پلتفرم‌ها روی پردازنده‌های NVIDIA (مدل‌های H100، H200 و B200 در سال 2026) یا گاهی AMD اجرا می‌شوند. این دسته لایه‌ی اقتصادی میان «اجاره‌ی خام پردازنده‌ی گرافیکی» (مانند RunPod، Lambda) و «سرویس‌های مدیریت‌شده‌ی غول‌های ابری» (مثل Bedrock) به حساب می‌آیند.

بازارهای ارائه‌دهنده‌ی API (API-first marketplaces) — شامل Replicate، DeepInfra، OpenRouter و Fal. کاتالوگی وسیع از مدل‌ها دارند، مدل پرداخت در آن‌ها به‌ازای هر پیش‌بینی یا ثانیه‌ای است و تمرکز اصلی‌شان را روی به حداقل رساندن زمان تا اولین فراخوانی گذاشته‌اند.

پلتفرم Fireworks — بهینه‌شده برای تاخیر پایین

• مجهز به موتور اختصاصی FireAttention؛ طبق ادعای سازنده، تاخیر آن در تنظیمات سخت‌افزاری مشابه تا 4 برابر کمتر از vLLM است.
• لایه‌ی پردازش دسته‌ای (Batch tier) با حدود 50 درصد تخفیف نسبت به نرخ سرورلس برای پردازش‌های غیرتعاملی.
• ارائه‌ی مدل‌های فاین‌تیون‌شده با همان تعرفه‌ی مدل پایه؛ مزیتی واقعی در مقایسه با سرویس‌هایی که برای LoRA هزینه‌ی اضافی می‌گیرند.
• اواسط 2026: افزایش 1 دلار در ساعت برای اجاره‌ی آنی (On-demand) پردازنده‌های گرافیکی از 1 مه 2026. امکان مذاکره برای تخفیف‌های حجمی در مقیاس‌های بالا وجود دارد.
• شاخص‌های مالی: ارزش‌گذاری 4 میلیارد دلاری و پردازش روزانه‌ی بیش از 10 تریلیون توکن.

پلتفرم Together — بهینه‌شده برای تنوع مدل‌ها

• پشتیبانی از بیش از 200 مدل، شامل ارائه‌ی نسخه‌های متن‌باز تنها چند روز پس از انتشار رسمی.
• بین 50 تا 70 درصد ارزان‌تر از Replicate در مدل‌های زبانی معادل؛ جایگاه‌یابی آن‌ها به‌عنوان «ابر بومی هوش مصنوعی» روی حجم بالا و گستردگی کاتالوگ بنا شده است.
• ارائه‌ی استنتاج، فاین‌تیونینگ و آموزش در قالب یک API یکپارچه.

پلتفرم Baseten — بهینه‌شده برای استانداردهای سازمانی

• فریم‌ورک Truss: بسته‌بندی مدل به همراه وابستگی‌ها، سکرت‌ها و پیکربندی اجرا در قالب یک مانیفست.
• تنوع پردازنده‌ی گرافیکی از T4 تا B200. صورت‌حساب دقیقه‌ای همراه با کاهش منطقی زمان راه‌اندازی اولیه.
• دارای گواهی‌های SOC 2 Type II و سازگار با HIPAA؛ انتخابی رایج در حوزه‌های سلامت و فین‌تک.
• ارزش‌گذاری 5 میلیارد دلاری در دور جذب سرمایه‌ی سری E در ژانویه‌ی 2026 (300 میلیون دلار از سوی CapitalG، IVP و NVIDIA).

پلتفرم Modal — بهینه‌شده برای توسعه‌ی بومی پایتون

• زیرساخت به‌شکل کد (Infrastructure-as-code) کاملاً در پایتون خالص. کافی است تابعی را با دکوراتور @modal.function(gpu="A100") مشخص کنید و با یک دستور آن را بالا بیاورید.
• صورت‌حساب ثانیه‌ای. زمان راه‌اندازی اولیه بین 2 تا 4 ثانیه با گرم‌کردن اولیه (Pre-warming) و زیر 1 ثانیه برای مدل‌های کوچک.
• جذب سرمایه‌ی 87 میلیون دلاری سری B با ارزش‌گذاری 1.1 میلیارد دلار (2025). کسب بالاترین امتیاز تجربه‌ی توسعه‌دهنده در نظرسنجی‌های مستقل.

پلتفرم Replicate — پیشتاز در تنوع مدل‌های چندحالته

• پرداخت به‌ازای هر پیش‌بینی. پلتفرم پیش‌فرض برای اجرای مدل‌های تصویر، ویدیو و صوت.
• اکوسیستم یکپارچه‌سازی گسترده (پشتیبانی از Zapier، Vercel و پلاگین‌های CMS).
• نرخ توکنی آن در مدل‌های زبانی چندان رقابتی نیست، اما در تنوع مدل‌های چندحالته برنده است.

پلتفرم Anyscale — معماری بومی بر پایه‌ی Ray

• توسعه‌یافته بر بستر Ray؛ موتور اختصاصی آن‌ها با نام RayTurbo مستقیماً با vLLM رقابت می‌کند.
• بهترین گزینه برای پردازش‌های توزیع‌شده‌ی پایتون؛ به‌ویژه در سناریوهایی که مرحله‌ی استنتاج تنها یکی از نودهای یک گراف محاسباتی بزرگ‌تر است.
• کلاسترهای مدیریت‌شده‌ی Ray با یکپارچگی عمیق با Ray AIR و Ray Serve.

مقایسه‌ی پرداخت به‌ازای توکن در برابر پرداخت به‌ازای دقیقه — هرکدام چه زمانی برنده می‌شوند

مدل پرداخت بر مبنای توکن زمانی منطقی است که بار کاری نسبت به تاخیر حساس نباشد و حالت انفجاری (Bursty) داشته باشد؛ زیرا فقط به‌اندازه‌ی مصرفتان پرداخت می‌کنید. در مقابل، پرداخت دقیقه‌ای زمانی به‌صرفه است که نرخ استفاده (Utilization) بالا و پیش‌بینی‌پذیر باشد؛ در شرایطی که ظرفیت پردازنده‌ی گرافیکی را اشباع کنید، هزینه‌ی آن از مدل توکنی کمتر تمام می‌شود.

یک قاعده‌ی سرانگشتی: اگر میزان استفاده‌ی مداوم از یک پردازنده‌ی گرافیکی اختصاصی بالاتر از حدود 30 درصد باشد، مدل پرداخت دقیقه‌ای (Baseten، Modal) به‌صرفه‌تر از مدل توکنی (Fireworks، Together) خواهد بود. برای استفاده‌های کمتر از این رقم، پرداخت به‌ازای توکن برنده است؛ چرا که هزینه‌ای بابت زمان بیکاری (Idle) سخت‌افزار نمی‌پردازید.

موتور استنتاج اختصاصی، خندق دفاعی واقعی

تمام پلتفرم‌هایی که زیرساختی فراتر از vLLM و SGLang دارند، ادعای موتور اختصاصی را مطرح می‌کنند: عناوینی مانند FireAttention، RayTurbo و پشته‌ی پردازشی Baseten. بخش زیادی از این ادعاها رنگ‌وبوی بازاریابی دارد؛ اگر صادقانه نگاه کنیم، ترکیب vLLM و SGLang حدود 80 درصد از استنتاج متن‌باز در محیط عملیاتی (پروداکشن) را پوشش می‌دهند و عوامل تمایز اصلی در لایه‌ی پلتفرم مواردی مثل DX، امکان ردیابی سهم مصرف (Attribution) و تضمین سطح خدمات (SLA) هستند.

اعدادی که باید به خاطر بسپارید

• افزایش قیمت اجاره‌ی پردازنده‌ی گرافیکی Fireworks: ساعتی 1 دلار از 1 مه 2026.
• ادعای Fireworks: تاخیر تا 4 برابر کمتر از vLLM در کانفیگ‌های مشابه.
• پلتفرم Together: حدود 50 تا 70 درصد ارزان‌تر از Replicate در مدل‌های زبانی.
• ارزش‌گذاری Baseten: معادل 5 میلیارد دلار (سری E، ژانویه‌ی 2026، جذب 300 میلیون دلار).
• ارزش‌گذاری Modal: معادل 1.1 میلیارد دلار (سری B، سال 2025).
• در استفاده‌ی مداومِ بالای 30 درصد، هزینه‌ی دقیقه‌ای از هزینه‌ی توکنی کمتر می‌شود.

استفاده از ابزارهای واقعی

اسکریپت code/main.py این شش ارائه‌دهنده را در قالب یک بار کاری ساختگی روی مدل‌های مختلف قیمت‌گذاری مقایسه می‌کند. خروجی این برنامه شامل «دلار در روز» و «هزینه‌ی موثر به‌ازای هر میلیون توکن» است. آن را اجرا کنید تا نقطه‌ی سر‌به‌سر هزینه‌های توکنی و دقیقه‌ای را به‌دست آورید.

خروجی این درس

خروجی این درس فایل outputs/skill-inference-platform-picker.md است. این فایل با دریافت مشخصات بار کاری، نیازمندی‌های SLA و بودجه، پلتفرم استنتاج اصلی و بهترین گزینه‌ی بعدی را تعیین می‌کند.

تمرین‌ها

1. اسکریپت code/main.py را اجرا کنید. برای یک مدل 70B روی یک پردازنده‌ی H100، پلتفرم Baseten (دقیقه‌ای) در چه درصدی از بهره‌وری پایدار نسبت به Fireworks (توکنی) به‌صرفه‌تر می‌شود؟ این نقطه‌ی تقاطع را خودتان به دست آورید و با قاعده‌ی سرانگشتی مقایسه کنید.
2. محصول شما شامل تولید تصویر، چت متنی و تبدیل گفتار به متن است. برای هر مدالیته پلتفرم مناسب را انتخاب کنید و الگوی درگاهی (Gateway pattern) را که آن‌ها را یکپارچه می‌کند نام ببرید.
3. فرض کنید Fireworks قیمت‌ها را روی مدل اصلی شما ساعتی 1 دلار افزایش دهد. تاثیر هزینه‌ی ترکیبی (Blended cost) را در شرایطی مدل‌سازی کنید که 40 درصد از ترافیک به لایه‌ی پردازش دسته‌ای (Batch tier با 50 درصد تخفیف) منتقل شود.
4. مشتری شما یک سازمان قانون‌گذاری‌شده است که نیازمندی‌های آن شامل SOC 2 Type II، انطباق با HIPAA و پردازنده‌های گرافیکی اختصاصی است. کدام سه پلتفرم قابل استفاده هستند و کدام‌یک از نظر FinOps برنده می‌شود؟
5. هزینه‌ی پردازش 1,000 پیش‌بینی برای مدل Llama 3.1 70B را بین Fireworks سرورلس، Together آنی، Baseten اختصاصی و API پلتفرم Replicate مقایسه کنید. کدام گزینه در 10 پیش‌بینی در روز ارزان‌تر است؟ در 10,000 درخواست چطور؟

اصطلاحات کلیدی

برای مطالعه‌ی بیشتر

• قیمت‌گذاری Fireworks — نرخ‌های توکنی، پردازش دسته‌ای و اجاره‌ی پردازنده‌ی گرافیکی.
• قیمت‌گذاری Baseten — تعرفه‌های دقیقه‌ای، ظرفیت متعهدشده و طرح‌های سازمانی.
• قیمت‌گذاری Modal — هزینه‌ی ثانیه‌ای پردازنده‌های گرافیکی و طرح رایگان.
• قیمت‌گذاری Together AI — کاتالوگ مدل‌ها و قیمت‌گذاری بر مبنای توکن.
• قیمت‌گذاری Anyscale — قیمت‌گذاری RayTurbo و Ray مدیریت‌شده.
• Northflank — جایگزین‌های برتر Fireworks AI — ارزیابی تطبیقی پلتفرم‌ها.
• Infrabase — ارائه‌دهندگان API استنتاج هوش مصنوعی در سال 2026 — بررسی چشم‌انداز ارائه‌دهندگان بازار.