سؤال مصاحبه

چرا جست‌وجوی برداری بر اساس کسینوس رتبه‌بندی می‌کند؟

Why vector search ranks by cosine

  • سطح ۱: غربالگری
  • مفهومی
  • ۵ دقیقه

فرض کنید مشغول پیاده‌سازی مرحله‌ی جست‌وجو در یک پایپ‌لاین بازیابی (retrieval pipeline) هستید. یکی از هم‌تیمی‌هایتان پیشنهاد می‌دهد چانک‌ها (chunks) را صرفاً بر اساس ضرب داخلی (dot product) خام میان بردار پرس‌وجو و بردار هر چانک رتبه‌بندی کنید. به‌جای این کار از چه معیاری استفاده می‌کنید و چه زمانی ضرب داخلی انتخاب درستی است؟

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

از شباهت کسینوسی (cosine similarity) استفاده کنید؛ یعنی همان ضرب داخلی تقسیم بر طول دو بردار. این معیار فقط زاویه‌ی بین دو بردار را می‌سنجد؛ در نتیجه یک چانک طولانی و یک چانک کوتاه صرفاً بر سر جهت‌گیری‌شان با هم رقابت می‌کنند، نه اندازه‌شان. استفاده از ضرب داخلی خام فقط زمانی درست است که طول بردار حامل معنایی باشد که بخواهید در امتیاز نهایی به آن پاداش دهید.

پاسخ کامل

سه معیار اصلی

معیار کارکرد رفتار
کسینوس کسینوس زاویه‌ی بین دو بردار، از 1- تا 1 طول بردار را نادیده می‌گیرد؛ گزینه‌ی پیش‌فرض در بازیابی
ضرب داخلی مجموع حاصل‌ضرب مؤلفه‌های متناظر دو بردار بردارهای طولانی‌تر امتیاز بالاتری می‌گیرند
فاصله‌ی L2 فاصله‌ی خط مستقیم میان دو نقطه هرچه کمتر باشد یعنی نزدیک‌ترند؛ به طول بردار حساس است

کسینوس مقدار را نسبت به طول بردار نرمال می‌کند، بنابراین چانک‌هایی با اندازه‌های مختلف صرفاً بر اساس جهت با هم مقایسه می‌شوند. وقتی کسی از جست‌وجوی برداری صحبت می‌کند، تقریباً همیشه منظورش کسینوس است.

کد پیاده‌سازی

def cosine_similarity(a, b):
    dot = sum(x * y for x, y in zip(a, b))
    norm_a = math.sqrt(sum(x * x for x in a))
    norm_b = math.sqrt(sum(x * x for x in b))
    if norm_a == 0 or norm_b == 0:
        return 0.0
    return dot / (norm_a * norm_b)

شرط ابتدایی (guard) در صورت صفر بودن طول بردار، مقدار صفر برمی‌گرداند تا چانک خالی به خطای تقسیم بر صفر نخورد.

چه زمانی هر دو معیار هم‌نظرند؟

بسیاری از مدل‌های امبدینگ (embedding models) بردارها را با طول یک (unit-length) برمی‌گردانند، یا این‌که فراخواننده خروجیِ نرمال‌شده می‌خواهد. در درس پرسش و پاسخ، انکودینگ با فعال بودن نرمال‌سازی انجام می‌شود و سپس رتبه‌بندی با یک ضرب ماتریسی ساده پیش می‌رود. در بردارهای یکه، ضرب داخلی با کسینوس برابر است؛ بنابراین یک عملیات سبک‌تر و ارزان‌تر دقیقاً همان ترتیب را به شما می‌دهد.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 1: مقادیر 1، 0 و 1- در کسینوس چه معنایی دارند؟ پاسخ مورد انتظار: هم‌جهت، عمود بر هم (متعامد)، و جهت‌های کاملاً مخالف.
  • سطح 2: مدل امبدینگ شما بردارهای یکه برمی‌گرداند. آیا انتخاب معیار باز هم اهمیتی دارد؟ پاسخ مورد انتظار: خیر، چون در بردارهای یکه ضرب داخلی و کسینوس برابرند؛ به همین دلیل در آن درس ابتدا بردارها نرمال شده و سپس از ضرب ماتریسی استفاده می‌شود.
  • سطح 2: چرا فاصله‌ی L2 با یک چانک طولانی و یک چانک کوتاه برخورد متفاوتی دارد؟ پاسخ مورد انتظار: چون فاصله‌ی خط مستقیم را اندازه می‌گیرد؛ بنابراین بردار طولانی‌تر دورتر می‌افتد، حتی اگر دقیقاً در همان جهت اشاره کند.
  • سطح 3: چه زمانی عمداً به سراغ ضرب داخلی خام می‌روید؟ پاسخ مورد انتظار: وقتی مدل طوری آموزش دیده باشد که طول بردار حامل سیگنال خاصی باشد (مثلاً محتوای بیشتر در سندی طولانی‌تر) و بخواهید این سیگنال در رتبه اثر بگذارد.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «ضرب داخلی و کسینوس ترتیب یکسانی می‌دهند.» فقط زمانی درست است که همه‌ی بردارها طول یکسانی داشته باشند؛ در غیر این صورت، بردارهای طولانی‌تر در ضرب داخلی دست بالا را دارند.
  • «کسینوس کوچک‌تر یعنی تطابق نزدیک‌تر.» کسینوس بزرگ‌تر یعنی زاویه‌ی کوچک‌تر؛ مقدار کوچک‌تر فقط در معیارهای فاصله مثل L2 نشانه‌ی نزدیکی است.
  • «از همان گزینه‌ی پیش‌فرض پایگاه داده‌ی برداری استفاده کنید.» معیار انتخابی باید با نحوه‌ی تولید و نرمال‌سازی بردارها هم‌خوانی داشته باشد؛ پس همیشه قبل از استور، مدل امبدینگ را بررسی کنید.

کجای دوره آموزش داده می‌شود

درس RAG این سه معیار و شرط ایمنی تقسیم بر صفر را تعریف می‌کند، و درس پرسش و پاسخ بردارهای نرمال‌شده را با ضرب ماتریسی رتبه‌بندی می‌کند.