سؤال مصاحبه

انتشار امن دموهای مدل با یک لینک عمومی

Put a model demo behind a public link safely

  • سطح ۲: میانی
  • طراحی
  • ۱۵ دقیقه

یک ارزیاب و یک مشتری می‌خواهند مدل شما را از طریق یک لینک، روی گوشی موبایل و بدون نیاز به نوت‌بوک اجرا کنند. هر فراخوانی مدل هزینه دارد. این دمو را طراحی کنید: قرارداد ورودی، ترتیب اعتبارسنجی‌ها، کنترل‌های لازم برای یک لینک عمومی و مواردی که لاگ مجاز به ذخیره‌ی آن‌هاست.

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

ابتدا قرارداد را بنویسید: یک رشته‌ی 1 تا 500 کاراکتری بدون کاراکترهای کنترلی، یک فراخوانی مدل با هزینه‌ی مشخص، و خروجی‌ای شامل خطای JSON همراه با یک راهنمایی (hint). بررسی‌ها را به ترتیب هزینه اجرا کنید: حجم بدنه‌ی درخواست، توکن دسترسی، سطل توکن (Token Bucket) به ازای هر کلاینت، اعتبارسنجی ورودی، سقف مصرف روزانه، و تنها پس از این مراحل، فراخوانی مدل. یک کد خطای پایدار همراه با پیام، راهنمایی و شناسه‌ی درخواست (request id) برگردانید؛ همچنین مسیر (route)، وضعیت (status)، تاخیر و طول ورودی را همراه با یک هش کلیددار (Keyed hash) از کلاینت ثبت کنید، اما هرگز متن ورودی یا آدرس کلاینت را لاگ نکنید.

پاسخ کامل

قرارداد

بخش پرسش پاسخ در این درس
ورودی چه نوع، اندازه و کاراکترهایی؟ یک رشته‌ی 1 تا 500 کاراکتری، بدون کاراکترهای کنترلی
فراخوانی مدل چقدر طول می‌کشد و چقدر هزینه دارد؟ تاخیر و هزینه‌ی مشخص به ازای هر فراخوانی
خروجی کاربر در صورت موفقیت و شکست چه می‌بیند؟ یک برچسب و پاسخ، یا یک خطای JSON همراه با راهنمایی

یک نوت‌بوک هیچ محدودیتی روی این بخش‌ها ندارد. دمو روی تک‌تک آن‌ها محدودیت می‌گذارد و سرور این محدودیت‌ها را برای تمام کلاینت‌ها اعمال می‌کند؛ چون هر کلاینتی می‌تواند صفحه‌ی وب را دور بزند.

ترتیب بررسی‌ها بر اساس هزینه

  1. هدر اندازه‌ی محتوا (content length) را بخوانید و اگر حجم بدنه بیشتر از 4,096 بایت بود، پیش از خواندن کامل آن، درخواست را رد کنید.
  2. در صورت نیاز، توکن دسترسی را بررسی کنید.
  3. یک توکن از سطل کلاینت بردارید؛ اگر خالی بود، با کد 429 و هدر Retry-After درخواست را رد کنید.
  4. بدنه را پارس و اعتبارسنجی کنید: شیء JSON باشد، متن وجود داشته باشد، درون محدوده‌ی مجاز باشد، کاراکتر کنترلی نداشته باشد؛ و در صورت نامعتبر بودن فیلد، با کد 422 رد کنید.
  5. هزینه را از سقف روزانه کسر کنید؛ اگر بودجه‌ی روز تمام شده بود، با کد 503 و Retry-After درخواست را رد کنید.
  6. مدل را فراخوانی کنید.

درخواست‌های نامعتبر در همان اولین بررسیِ ناموفق متوقف می‌شوند و تقریباً هیچ هزینه‌ای تحمیل نمی‌کنند. مرحله‌ی هزینه‌بر در آخرین گام قرار دارد؛ بنابراین فقط درخواست‌های معتبر از سقف بودجه کم می‌کنند.

ریسک راهکار کنترلی
ارسال سیل‌آسای درخواست توسط یک کلاینت سطل توکن به ازای هر کلاینت: ظرفیتی برای جهش‌های ناگهانی (burst)، و نرخ شارژ مجدد برای استفاده‌ی مداوم
دسترسی افراد متفرقه به لینک یک توکن دسترسی اختیاری در هدر احراز هویت (authorization header)
افزایش هزینه‌ی کل سقف مصرف (Usage cap) روزانه روی تمام کلاینت‌ها، محاسبه‌شده در پنجره‌های زمانی 86,400 ثانیه‌ای
ورودی‌های حجیم یا نامتعارف محدودیت حجم بدنه، محدودیت طول متن، بررسی کاراکترهای کنترلی
ثبت ورودی‌های خصوصی در لاگ‌ها ثبت رکوردها فقط با طول ورودی و هش کلیددار از کلاینت

محدودیت نرخ درخواست (Rate limit) فقط هر کلاینت را کنترل می‌کند نه مصرف کل را؛ صد کلاینت با رفتار کاملاً عادی هم می‌توانند کل بودجه را مصرف کنند، و سقف مصرف دقیقاً برای همین است.

خطاهایی که کاربر می‌تواند بر اساس آن‌ها عمل کند

همه‌ی خطاها ساختار یکسانی دارند: یک code پایدار برای کلاینت‌ها و تست‌ها، یک message حاوی اعداد مورد نیاز کاربر، یک hint با یک اقدام مشخص، و یک request_id که گزارش کاربر را به یک رکورد خاص در لاگ پیوند می‌دهد. ردگیری محاسبات (Trace) یا همان استک تریس، هیچ‌کدام از این کارها را برای یک کاربر غریبه انجام نمی‌دهد.

بازخورد و استریمینگ

صفحه هنگام اجرای درخواست، دکمه را غیرفعال می‌کند، زمان سپری‌شده را نشان می‌دهد و به محض رسیدن اولین توکن، زمان تا اولین توکن را به نمایش می‌گذارد؛ به این ترتیب کاربر تفاوت مدل کُند را از صفحه‌ی خراب تشخیص می‌دهد و دوباره کلیک نمی‌کند. توکن‌ها به‌صورت Server-Sent Events از طریق بدنه‌ی یک درخواست POST استریم می‌شوند نه در URL یک درخواست GET؛ بنابراین ورودی کاربر هرگز وارد لاگ‌های دسترسی نمی‌شود.

داده‌هایی که لاگ نگه می‌دارد

مسیر، وضعیت، کد خطا، تاخیر و طول ورودی، به‌همراه یک هش کلیددار از آدرس کلاینت برای شمارش درخواست‌های هر کاربر. هرگز متن ورودی، مسیر خام یا آدرس کلاینت را ثبت نکنید. صفحه به کاربران می‌گوید چه اطلاعاتی نگهداری می‌شود.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 2: چرا سقف مصرف روزانه بعد از اعتبارسنجی اعمال می‌شود و نه قبل از آن؟ پاسخ مورد انتظار: برای این‌که فقط درخواست‌های معتبر از بودجه کم کنند؛ یک درخواست نامعتبر نباید بودجه را مصرف کند.
  • سطح 2: پشت یک پروکسی معکوس (Reverse proxy)، آدرس تمام درخواست‌ها برابر با آدرس پروکسی خواهد بود. چه مشکلی پیش می‌آید؟ پاسخ مورد انتظار: همه‌ی کاربران از یک سطل توکن مشترک استفاده خواهند کرد؛ باید آدرس کلاینت را از هدری بخوانید که منحصراً توسط پروکسی خودتان تنظیم می‌شود و به هیچ جای دیگری اعتماد نکنید.
  • سطح 3: چرا ورودی به جای URL، در بدنه‌ی POST برای استریم رویدادها ارسال می‌شود؟ پاسخ مورد انتظار: سرورها و پروکسی‌ها URLها را در لاگ‌های دسترسی (access logs) می‌نویسند، بنابراین استفاده از GET باعث ذخیره‌ی متن کاربر می‌شود.
  • سطح 3: یک فریم‌ورک صفحه را برای شما می‌سازد. پیاده‌سازی کدام کنترل‌ها همچنان وظیفه‌ی شماست؟ پاسخ مورد انتظار: محدودیت نرخ درخواست، سقف هزینه و حریم خصوصی لاگ‌ها؛ فریم‌ورک‌ها زحمت فرم و استریمینگ را کم می‌کنند، نه خطرات یک لینک عمومی را.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «اعتبارسنجی را در مرورگر با اتریبیوت حداکثر طول (maxlength) انجام می‌دهیم.» مرورگر فقط به کاربران قانون‌مدار کمک می‌کند؛ سرور باید تک‌تک بررسی‌ها را تکرار کند.
  • «محدودیت نرخ درخواست به ازای هر کلاینت برای کنترل هزینه‌ها کافی است.» این کار هر کلاینت را محدود می‌کند نه مجموع را؛ سقف روزانه است که کل مصرف را مهار می‌کند.
  • «کل درخواست را لاگ کنید تا بتوانید گزارش‌ها را دیباگ کنید.» با این کار متن و آدرس کاربر در لاگ ذخیره می‌شود؛ یک request id بدون نیاز به هیچ‌کدام از این دو، گزارش کاربر را به رکورد متناظرش پیوند می‌دهد.

کجای دوره آموزش داده می‌شود

درس رابط‌های دمو برای مدل‌ها قرارداد، بررسی‌های ترتیبی، سطل توکن، سقف مصرف و لاگ‌گیری خصوصی را آموزش می‌دهد.