سؤال مصاحبه

تنظیم حافظه‌ی سه‌مخزنی برای سه محصول مختلف

Tune a three-store memory for three products

  • سطح ۴: استف
  • طراحی
  • ۱۵ دقیقه

مسئولیت لایه‌ی حافظه برای سه محصول روی یک پلتفرم با شماست: یک دستیار گفت‌وگوی عمومی (Consumer Chat Assistant)، یک ایجنت بررسی انطباق (Compliance Review Agent) و یک ایجنت بازیابی پژوهشی (Research Retrieval Agent). سیستم حافظه، یک مخزن برداری (Vector Store)، یک مخزن کلید-مقدار (Key-Value Store) و یک مخزن گرافی (Graph Store) را به‌صورت موازی اجرا و نتایج آن‌ها را ادغام می‌کند. فرآیند ادغام و فیوژن (Fusion) نتایج را برای هر محصول چطور پیکربندی می‌کنید، و چه اشتباهی در تعیین دامنه‌ی دسترسی (Scoping) باعث پیج شدن شما در شیفت شب خواهد شد؟

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

امتیاز ادغام‌شده، حاصل‌جمع وزنی ارتباط (Relevance)، اهمیت (Importance) و تازگی (Recency) است و وزن‌ها برای هر محصول جداگانه تنظیم می‌شوند: افزایش تازگی برای دستیار گفت‌وگو، افزایش اهمیت برای ایجنت انطباق، و افزایش ارتباط برای ایجنت بازیابی. هر مخزن در دسته‌ای از پرس‌وجوها برنده می‌شود که بقیه از پس آن برنمی‌آیند؛ بنابراین وزن‌ها مشخص می‌کنند کدام دسته دست بالا را داشته باشد، بدون اینکه نیازی به حذف هیچ‌کدام از مخازن باشد. اشتباهی که آژیر هشدار پیجر را به صدا درمی‌آورد، نشت دامنه (Scope Leak) است: هر نوشتن باید یکی از دامنه‌های کاربر، نشست یا ایجنت را انتخاب کند؛ اگر فرآیند بازیابی بدون اعمال وزن‌های تفکیک‌شده این دامنه‌ها را با هم ترکیب کند، اطلاعات پروژه‌ی یک کاربر را برای کاربری دیگر فاش خواهد کرد.

پاسخ کامل

چرا سه مخزن؟

دسته‌ی پرس‌وجو مثال برنده
شباهت معنایی هفته‌ی گذشته درباره‌ی دریفت چه بحثی کردیم؟ برداری
جست‌وجوی فکت شماره‌تلفن کاربر کلید-مقدار، با کلید بر اساس کاربر، نوع فکت و موجودیت
استدلال روابط کدام مشتریان دارای یک موجودیت صورت‌حساب مشترک هستند؟ گراف، در قالب یال‌های تایپ‌شده

استفاده از یک مخزن منفرد برای دو دسته از این سه دسته کاملاً اشتباه است. در زمان نوشتن، فکت‌ها از متن استخراج شده و در هر سه مخزن ذخیره می‌شوند؛ هنگام جست‌وجو نیز هر سه مخزن اجرا شده و نتایج آن‌ها ادغام می‌گردد.

نحوه‌ی ادغام

فرمول محاسبه‌ی امتیاز به این صورت است: w_relevance * relevance + w_importance * importance + w_recency * recency. ارتباط، همان شباهت کسینوسی، تطابق دقیق کلید یا وزن مسیر گرافی است. اهمیت، هنگام نوشتن برچسب‌گذاری می‌شود یا مدل آن را یاد می‌گیرد. تازگی نیز با گذشت زمان از آخرین نوشتن یا خواندن، کاهش (Decay) پیدا می‌کند. این فرمول یک جمع وزنی است، نه ساختار سلسله‌مراتبی؛ زیرا سلسله‌مراتبی بودن باعث می‌شود دو دسته از سه دسته‌ی پرس‌وجو معطل پاسخ مخزن نامناسب بمانند.

محصول وزنی که باید بالا ببرید دلیل
دستیار گفت‌وگو تازگی چند نوبت گفت‌وگوی آخر بیشترین اهمیت را دارند
ایجنت انطباق اهمیت نام‌ها، شناسه‌ها و خط‌مشی‌ها بر گپ‌وگفت‌های معمولی اولویت دارند
ایجنت بازیابی ارتباط پرسش مطرح‌شده اولویت را تعیین می‌کند، نه زمان

حقیقت مبتنی بر زمان برای انطباق

وقتی فکت جدیدی با یک یال در گراف تناقض پیدا می‌کند، یال قدیمی نامعتبر علامت‌گذاری می‌شود و هرگز حذف نمی‌گردد. اگر پرسشی درباره‌ی وضعیتِ درست در ماه مارس مطرح شود، مسیرهایی پیمایش می‌شوند که در همان زمان معتبر بوده‌اند. کارکرد درست ایجنت انطباق کاملاً به همین ویژگی وابسته است.

قاعده‌ی دامنه

هر عملیات نوشتن باید دقیقاً یک دامنه را انتخاب کند: حافظه‌ی کاربر (User Memory) بین نشست‌ها باقی می‌ماند، حافظه‌ی نشست (Session Memory) فقط در طول یک رشته‌گفت‌وگو زنده است، و حافظه‌ی ایجنت (Agent Memory) مختص هر نمونه از ایجنت است. بازیابی می‌تواند داده‌ها را در بین این دامنه‌ها با در نظر گرفتن وزن‌های مجزا برای هر دامنه بخواند؛ اما اگر جست‌وجو این دامنه‌ها را بدون فکر با هم ترکیب کند، دستیار اطلاعات پروژه‌ی یک کاربر را برای کاربر دیگری بازگو خواهد کرد.

نگهداری همگام با رشد پیکره‌ی متنی

  • با بزرگ شدن پیکره‌ی متنی، خروجی‌های برداری دچار انحراف امبدینگ می‌شوند؛ رکوردهای پرکاربرد را طبق برنامه‌ای مشخص دوباره امبد کنید.
  • با اضافه کردن انواع داده‌ها توسط تیم‌های مختلف، مجموعه‌تایپ‌های کلید-مقدار بی‌رویه گسترش می‌یابد؛ این موارد را به‌صورت فصلی ارزیابی کنید.
  • استخراج‌کننده‌ی پر سر و صدا (Noisy Extractor) به ازای هر پیام ده‌ها یال اضافه می‌کند؛ تعداد نوشتن‌های گراف را در هر ثبت محدود کنید و یال‌های با درجه‌ی اطمینان پایین را دور بریزید.
سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 3: هر مخزن در کدام دسته‌ی پرس‌وجو برنده می‌شود؟ انتظار می‌رود: مخزن برداری برای شباهت معنایی، کلید-مقدار برای جست‌وجوی فکت، و گراف برای استدلال روابط.
  • سطح 4: چرا جمع وزنی و نه اولویت با مخزن برداری همراه با طرح پشتیبان؟ انتظار می‌رود: هر مخزن در یک دسته از پرس‌وجوها برنده است؛ ساختار سلسله‌مراتبی باعث می‌شود دو دسته از سه دسته معطل مخزن نامناسب بمانند.
  • سطح 4: ایجنت انطباق می‌پرسد چه چیزی در ماه مارس درست بوده است. کدام مخزن پاسخ می‌دهد و چگونه؟ انتظار می‌رود: گراف، با پیمایش یال‌هایی که در آن بازه‌ی زمانی معتبر بوده‌اند؛ یال‌های متناقض صرفاً نامعتبر علامت‌گذاری شده و حذف نمی‌شوند.
  • سطح 4: کدام نقص همگام با رشد پیکره‌ی متنی بزرگ‌تر می‌شود و راهکار نگهداری آن چیست؟ انتظار می‌رود: انحراف امبدینگ در مخزن برداری؛ امبدینگ مجدد رکوردهای پرکاربرد در بازه‌های زمانی معین، بازبینی فصلی مجموعه‌تایپ‌های کلید-مقدار، و اعمال سقف برای نوشتن روی گراف در هر بار ثبت داده.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «یک مخزن برداری کافی است، امبدینگ‌ها همه‌چیز را پوشش می‌دهند.» جست‌وجوی یک فکت مشخص روی مخزن برداری پرهزینه و نامناسب است و اجرای پرس‌وجوهای رابطه‌ای روی آن اساساً غیرممکن خواهد بود.
  • «وزن‌ها را یک بار برای کل پلتفرم تنظیم کنید.» گفت‌وگو به تازگی نیاز دارد، انطباق به اهمیت، و بازیابی به ارتباط؛ یک تنظیم واحد برای دو تا از این سه محصول کاملاً اشتباه است.
  • «وقتی فکت جدیدی با اطلاعات قبلی تناقض دارد، فکت قدیمی را حذف کنید.» آن را فقط نامعتبر علامت‌گذاری کنید و نگه دارید؛ در غیر این صورت پرس‌وجوی مبتنی بر زمان تاریخچه‌اش را از دست می‌دهد.

کجای دوره آموزش داده می‌شود

درس حافظه‌ی ترکیبی جزئیات این سه مخزن، فرمول ادغام، رده‌بندی دامنه‌ها و چک‌لیست نگهداری را ارائه می‌دهد، و درس بافتار مجازی جایگاه این الگو را در میان انواع حافظه مشخص می‌کند.