دموی شما توکنها را از طریق رویدادهای ارسالی سرور (Server-Sent Events یا SSE) روی صفحه استریم میکند. کاربران گزارش میدهند که صفحه گاهی نصف یک پاسخ را نشان میدهد و سپس بدون هیچ پیامی متوقف میشود. لاگهای سرور دقیقاً روی همان درخواستها خطای مدل (Model exception) را ثبت کردهاند. چرا کاربر هیچ پیامی نمیبیند و این پروتکل را چطور باید اصلاح کرد؟
اول خودتان جواب بدهید، بعد پاسخ را باز کنید.
پاسخ کوتاه
سرور خط وضعیت (Status line) را با کد وضعیت 200 پیش از ارسال اولین توکن میفرستد. وقتی مدل بعد از آن به خطا میخورد، دیگر نمیتوان کد وضعیت را تغییر داد؛ در نتیجه کلاینت فقط استریمی را میبیند که زودتر از موعد تمام شده و هیچ چیز دیگری دریافت نمیکند. راهحل این است که یک رویداد error درون خودِ استریم بفرستید و کاری کنید که صفحه این رویداد را در قالب خطا نمایش دهد. همچنین وقتی اتصال کلاینت قطع میشود، ژنراتور را متوقف کنید تا با بستن تب، ادامهی اجرای مدل متوقف شود.
پاسخ کامل
مشکل پروتکل
پاسخ استریمشده فقط یک خط وضعیت دارد و این خط همان ابتدا ارسال میشود. همهی توکنهای بعدی، تکههای بدنه (Body chunks) هستند. رخداد یک استثنا (Exception) در ژنراتور بعد از ارسال اولین توکن، نمیتواند کد 200 را به 500 تبدیل کند. اتصال بسته میشود و صفحه هیچ راهی ندارد تا تشخیص دهد این یک پاسخ کوتاه بوده یا مشکلی پیش آمده است.
اصلاح ارائهشده در درس
ژنراتورِ استریم، استثنا را مدیریت میکند و یک رویداد دیگر میفرستد (Yield میکند):
event: error
data: {"code":"model_error","message":"...","hint":"...","request_id":"..."}
سپس کار ژنراتور تمام میشود. صفحه تکتک فریمها را میخواند و سه نام رویداد را مدیریت میکند: رویداد token متن را اضافه میکند، done درخواست را به پایان میرساند و آمار کل را نمایش میدهد، و error پیام خطا و راهنمای رفع آن را نشان میدهد. این خطا حاوی یک شناسهی درخواست (Request ID) است؛ بنابراین میتوان گزارش کاربر را بدون ذخیرهی هیچیک از ورودیها، به یک لاگ مشخص نگاشت کرد.
دو نکتهی فنی برای پایداری کار
- صفحه بایتهای دریافتی را بافر میکند و فریمها را از محل خط خالی برش میزند؛ زیرا یک تکه از بستهی شبکه (Network chunk) ممکن است درست وسط یک رویداد تمام شود. پارسِری که با هر تکه مثل یک رویداد کامل برخورد کند، روی پاسخهای طولانی به مشکل میخورد.
- تابع
json.dumpsکاراکتر خط جدید درون رشتهها را اسکیپ (Escape) میکند؛ بنابراین هر رویداد فقط یک خط داده دارد. وجود یک خط جدید خام درون دادهها، باعث پایان زودهنگام رویداد میشد.
توقف مدل هنگام خروج کاربر
وقتی کاربر تب را میبندد، نوشتن بعدی روی سوکت با خطای قطع ارتباط (Broken pipe) روبهرو میشود. کنترلکننده (Handler) این خطا را مدیریت میکند و ژنراتور را میبندد؛ در نتیجه اجرای مدل متوقف میشود و درخواست دیگر هزینهای بتراشد. در این درس، یک مهلت زمانی برای سوکت (Socket timeout) روی کلاس کنترلکننده هم تنظیم میشود تا کلاینتی که ارسال داده را متوقف کرده، یکی از رشتههای پردازشی (Thread) سرور را اشغال نکند.
ثبت لاگ خطا
کنترلکنندهی درخواست در بلوک finally خود، برای هر درخواست یک خط لاگ به همراه مسیر (Route)، کد وضعیت، کد خطا، تاخیر (Latency) و طول ورودی ثبت میکند. استریمی که با یک رویداد خطا متوقف شده، با کد مربوطهاش در آنجا ظاهر میشود و میتوان تعداد این خرابیها را شمارش کرد.
سؤالهای تکمیلی مصاحبهگر
- سطح 2: چرا سرور نمیتواند وقتی مدل وسط کار به خطا میخورد کد 500 بفرستد؟ پاسخ مورد انتظار: خط وضعیت قبل از اولین توکن ارسال شده است و هر پاسخ فقط یک وضعیت دارد.
- سطح 2: کاربری تب مرورگر را وسط کار میبندد. سرور باید چه کند؟ پاسخ مورد انتظار: عملیات نوشتن با خطای Broken pipe مواجه میشود، کنترلکننده ژنراتور را میبندد و مدل متوقف میشود.
- سطح 3: چرا صفحه بایتها را بافر میکند و هر تکه (Chunk) را یک رویداد در نظر نمیگیرد؟ پاسخ مورد انتظار: یک تکه از شبکه ممکن است وسط یک رویداد تمام شود؛ بنابراین خواننده متن ناقص را تا رسیدن به خط خالی نگه میدارد.
- سطح 3: بهجز پیام، چه چیزهای دیگری درون رویداد خطا قرار میگیرد؟ پاسخ مورد انتظار: یک کد پایدار که بتوان در تستها مقایسه کرد، یک راهنما با یک اقدام مشخص، و شناسهی درخواستی که گزارش کاربر را به لاگ سرور متصل میکند.
جوابهای اشتباهی که مصاحبهگرها زیاد میشنوند
- «کل پاسخ را بافر کنید و در قالب JSON برگردانید.» این کار استریمینگ را حذف میکند و کاربر در هر درخواست باید تا آخرین توکن معطل بماند.
- «متن خطا را مثل یک توکن دیگر بفرستید.» صفحه نمیتواند خطای سیستم را از خروجی مدل تشخیص دهد و رویداد done هم هرگز ارسال نمیشود.
- «در صورت خطای مدل، درخواست را در سمت سرور دوباره امتحان کنید (Retry).» کاربر در حال حاضر نیمی از جواب را دیده است؛ تکرار مجدد خروجی تکراری تولید میکند و هزینه را دو برابر میسازد.
کجای دوره آموزش داده میشود
درس رابطهای دموی مدل استریم رویدادها را بهصورت دستی مینویسد و رویداد خطا را بعد از ارسال خط وضعیت میفرستد.