سؤال مصاحبه

ترتیب بررسی‌ها پیش از فراخوانی مدل پولی

Order the checks before a paid model call

  • سطح ۲: میانی
  • طراحی
  • ۱۰ دقیقه

قرار است یک لینک عمومی برای دموی مدل به اشتراک بگذارید. هر درخواستی که به مدل برسد برایتان هزینه دارد. توالی بررسی‌هایی را طراحی کنید که درخواست باید قبل از اجرای مدل از آن‌ها عبور کند، و وضعیت HTTP مربوط به هر امتناع را مشخص کنید.

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

بررسی‌های کم‌هزینه را اول اجرا کنید و مرحله‌ی پولی را بگذارید برای آخر. درخواستی با بدنه‌ی بیش‌ازحد بزرگ را قبل از خواندن آن و از روی هدر Content-Length رد کنید، توکن دسترسی را بسنجید، یک توکن از سطل نرخ درخواست (Rate limit) کاربر بردارید، JSON را تجزیه و اعتبارسنجی کنید، از سقف مصرف (Usage cap) روزانه کم کنید و تازه بعد از این‌ها مدل را فراخوانی کنید. هر امتناع، یک خطای JSON همراه با یک کد پایدار، یک پیام و یک راهنمایی برمی‌گرداند؛ کدهای وضعیت نیز به ترتیب عبارتند از: 413، 401، 429، 422 و 503.

پاسخ کامل

چرا ترتیب بررسی‌ها مهم است

یک درخواست نامعتبر در اولین بررسی ناموفق متوقف می‌شود، و همین بررسی باید تقریباً هیچ هزینه‌ای روی دست سرور نگذارد. فراخوانی مدل تنها مرحله‌ای است که هزینه برمی‌دارد، پس باید آخرین گام باشد. مرورگر می‌تواند برخی بررسی‌ها را با ویژگی‌های maxlength و required انجام دهد، اما این کارها فقط به درد کاربران خوش‌نیت می‌خورد. هر کلاینتی می‌تواند بدون استفاده از صفحه‌ی وب درخواست بفرستد، بنابراین سرور تک‌تک بررسی‌ها را دوباره انجام می‌دهد.

توالی بررسی‌ها

مرحله امتناع وضعیت
وجود مسیر اندپوینت (Endpoint) ناشناخته 404
وجود Content-Length و عددی بودن آن وجود ندارد یا عدد نیست 411، 400
اندازه‌ی بدنه زیر حد مجاز بیش از 4,096 بایت، پیش از خواندن رد می‌شود 413
رسیدن به‌موقع بدنه کلاینت ارسال را متوقف می‌کند 408
توکن دسترسی (در صورت پیکربندی) ناموجود یا نادرست 401
سطل توکن (Token Bucket) به ازای هر کلاینت سطل خالی است، همراه با Retry-After 429
نوع محتوا و آبجکت JSON نوع نادرست، یا آبجکت نبودن داده 415، 400
فیلدها ناموجود، خالی، بیش‌ازحد طولانی، دارای کاراکترهای کنترلی 422
سقف مصرف روزانه بودجه‌ی روز تمام شده است، همراه با Retry-After 503
فراخوانی مدل 200

سقف مصرف بعد از اعتبارسنجی کسر می‌شود تا فقط درخواست‌های معتبر پای سهمیه‌ی روز حساب شوند.

ساختار خطا

هر امتناع، ساختار JSON یکسانی دارد: یک code که کد کلاینت و تست‌ها با آن مقایسه می‌شوند، یک message که اصل ماجرا را همراه با اعدادش بیان می‌کند، یک hint با یک اقدام بعدی (next action)، و یک request_id که گزارش کاربر را به یک رکورد در لاگ پیوند می‌دهد.

دو محدودیت، نه یکی

سطل توکن جلوی هر کلاینت را می‌گیرد: یک ظرفیت مشخص برای ارسال ناگهانی (Burst) و یک نرخ شارژ مجدد برای طولانی‌مدت. این سطل جلوی کل مصرف سیستم را نمی‌گیرد. صد کلاینت که هر کدام زیر حد مجاز خود بمانند، باز هم می‌توانند کل بودجه را مصرف کنند؛ بنابراین، سقف مصرف کل فراخوانی‌های مدل در روز را می‌شمارد و پس از رسیدن به عددی مشخص، جلوی درخواست‌های بعدی را می‌گیرد.

پشت پروکسی

کلید سطل، آدرس کلاینت است. پشت یک پروکسی معکوس (Reverse proxy)، همه‌ی درخواست‌ها از سمت پروکسی می‌رسند و در نتیجه همه‌ی کلاینت‌ها یک سطل مشترک دارند. آدرس کلاینت را از هدری بخوانید که پروکسی خودتان تنظیم می‌کند، و تنها در صورتی به این هدر اعتماد کنید که از طرف همان پروکسی آمده باشد.

لاگ کردن همه‌ی درخواست‌ها

به ازای هر درخواست، یک رکورد در بلوک finally ثبت کنید، حتی برای درخواست‌های ردشده: مسیر، وضعیت، کد خطا، تاخیر (Latency) و طول ورودی. آدرس کلاینت به یک هش کلیددار (Keyed hash) تبدیل می‌شود. متن ورودی هرگز ذخیره نمی‌شود و این موضوع در صفحه هم اعلام شده است.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 2: چرا بررسی سقف مصرف بعد از بررسی فیلدها می‌آید؟ پاسخ مورد انتظار: برای اینکه فقط درخواست‌های معتبر پای مجموع مصرف روزانه حساب شوند.
  • سطح 2: چرا درخواست بر اساس هدر و پیش از خواندن بدنه رد می‌شود؟ پاسخ مورد انتظار: جلوی آپلود سنگین را پیش از آنکه سرور حافظه و زمان برایش صرف کند می‌گیرد.
  • سطح 3: پشت یک پروکسی معکوس، یک کاربر پرمصرف باعث می‌شود همه‌ی کاربران با محدودیت نرخ درخواست روبه‌رو شوند. چرا؟ پاسخ مورد انتظار: همه‌ی درخواست‌ها از آدرس پروکسی می‌رسند، بنابراین تمام کلاینت‌ها یک سطل مشترک دارند. آدرس کلاینت را از هدر ارسالیِ پروکسی بخوانید و فقط به همان پروکسی اعتماد کنید.
  • سطح 3: سرور قبل از بازگرداندن پاسخ 413 با بدنه‌ی ردشده چه می‌کند؟ پاسخ مورد انتظار: تا 64 کیلوبایت (KiB) از آن را می‌خواند و دور می‌ریزد؛ چون بستن اتصال با دیتای خوانده‌نشده می‌تواند باعث ارسال TCP reset شود و کلاینت پاسخ را از دست بدهد.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «اول متن را اعتبارسنجی کنید، بعد اندازه را بررسی کنید.» خواندن بدنه پیش از بررسی اندازه، همان هزینه‌ای را تحمیل می‌کند که این بررسی اصلاً برای جلوگیری از آن گذاشته شده است.
  • «محدودیت نرخ درخواست کافی است، سقف مصرف را بی‌خیال شوید.» محدودیت به‌ازای کلاینت، هر کلاینت را کنترل می‌کند. صد کلاینت زیر حد مجاز باز هم می‌توانند کل بودجه را بسوزانند.
  • «کد 500 را همراه با ردگیری محاسبات (Stack trace) برگردانید، توسعه‌دهندگان می‌توانند آن را بخوانند.» یک فرد غریبه کاری از دستش با ردگیری پشته برنمی‌آید. یک خطا به کد، شرح واقعیت و یک اقدام بعدی نیاز دارد.

کجای دوره آموزش داده می‌شود

درس رابط‌های دموی مدل بررسی‌ها را بر اساس هزینه مرتب می‌کند و ساختار خطا، سطل توکن و سقف مصرف را شرح می‌دهد.