سؤال مصاحبه

چرا مشتق‌گیری خودکار گرادیان‌ها را جمع می‌کند و مقداردهی مستقیم انجام نمی‌دهد؟

Why autograd adds gradients instead of setting them

  • سطح ۲: میانی
  • کدخوانی
  • ۸ دقیقه

این پیاده‌سازی عمل ضرب در یک موتور کوچک مشتق‌گیری خودکار (autograd) است:

def __mul__(self, other):
    other = other if isinstance(other, Value) else Value(other)
    out = Value(self.data * other.data, (self, other), '*')
    def _backward():
        self.grad += other.data * out.grad
        other.grad += self.data * out.grad
    out._backward = _backward
    return out

یکی از مشارکت‌کنندگان هر دو عملگر += را با = جایگزین می‌کند، با این توضیح که گرادیان باید مقداردهی شود، نه جمع. حلقه‌ی آموزش XOR همچنان بدون خطا اجرا می‌شود و مقدار تابع زیان (loss) هم پایین می‌آید. این تغییر دقیقاً چه چیزی را خراب کرده است و چطور با یک تست کوچک آن را اثبات می‌کنید؟

اول خودتان جواب بدهید، بعد پاسخ را باز کنید.

پاسخ کوتاه

مقداری که ورودی دو یا چند عملیات مختلف قرار می‌گیرد، از هر مصرف‌کننده یک گرادیان دریافت می‌کند؛ قاعده‌ی زنجیره‌ای (chain rule) هم می‌گوید سهم مشتق این مسیرها باید با هم جمع شوند. با مقداردهی مستقیم، آخرین مصرف‌کننده‌ای که اجرا می‌شود مقدار قبلی‌ها را بازنویسی می‌کند؛ بنابراین گرادیانِ تک‌تک گره‌های مشترک اشتباه محاسبه می‌شود، از جمله همه‌ی وزن‌هایی که در تابع زیانِ نهایی، به ازای هر نمونه یک بار به کار رفته‌اند. یک بررسی عددی گرادیان، این خطا را تنها با یک فراخوانی رو می‌کند.

پاسخ کامل

قاعده‌ی زنجیره‌ای درباره‌ی گره‌های مشترک چه می‌گوید؟

وقتی y از دو مسیر مختلف به x وابسته است، مشتق y نسبت به x برابر است با مجموع مشتق‌ها در طول هر مسیر. در موتور محاسباتی، گرهی که دو بار استفاده شده است، دو کلوژر (closure) مختلف دارد که روی grad همان گره می‌نویسند. با توجه به ترتیب توپولوژیک (topological order)، تمام مصرف‌کنندگانِ یک گره باید پیش از آنکه خود گره گرادیانش را به فرزندانش بفرستد اجرا شوند؛ بنابراین هر دو کلوژر اجرا می‌شوند و دومی حتماً باید مقدارش را با اولی جمع کند.

چرا حلقه‌ی آموزش هنوز کار می‌کرد؟

در حلقه‌ی XOR، تابع زیان حاصل جمع چهار خطای مربعی است (یک خطا به ازای هر نمونه)، و همه‌ی وزن‌ها در هر چهار گذر رو به جلو (forward pass) مشارکت دارند. با مقداردهی مستقیم، برای هر وزن فقط سهم آخرین نمونه‌ای که اجرا شده باقی می‌ماند. این مقدار معمولاً باز هم جهتی رو به سرازیری دارد و در نتیجه تابع زیان تکان می‌خورد و کاهش می‌یابد؛ اما با این حال، گرادیانِ همه‌ی پارامترها اشتباه است.

تست یک‌خطی

x = Value(3.0)
y = x * x
y.backward()

در اینجا self و other به یک شیء واحد اشاره می‌کنند. گرادیان درستِ x به توان 2 در نقطه‌ی 3 برابر با 6.0 است. هر یک از دو کلوژر باید مقدار 3.0 را اضافه کنند تا مجموع به 6.0 برسد؛ اما با مقداردهی مستقیم، خروجی 3.0 می‌شود. تابع gradient_check همین کار را برای هر عبارت دلخواهی انجام می‌دهد: موتور مشتق‌گیری را با تفاضل متناهی مرکزی مقایسه می‌کند و اختلافی گزارش می‌دهد که باید بسیار کمتر از 1e-5 باشد.

روی دیگر همین قاعده

به دلیل جمع‌شدن گرادیان‌ها، حلقه‌ی آموزش باید قبل از هر بار فراخوانی backward، مقدار grad همه‌ی پارامترها را دوباره 0.0 کند. در این درس، این کار با یک حلقه روی پارامترها انجام می‌شود؛ فریم‌ورک‌ها هم دقیقاً همین کار را با فراخوانی zero_grad انجام می‌دهند. هر دو عادت ریشه در یک واقعیت دارند: محل ذخیره‌ی گرادیان در اصل یک انباشت‌گر (accumulator) است.

سؤال‌های تکمیلی مصاحبه‌گر
  • سطح 2: چرا حلقه‌ی آموزش باید قبل از backward همه‌ی گرادیان‌ها را صفر کند؟ پاسخ مورد انتظار: چون گرادیان‌ها انباشته می‌شوند و اجرای دوم backward روی مقادیر اجرای اول تلنبار می‌شود؛ حلقه باید grad هر پارامتر را برابر با 0.0 قرار دهد.
  • سطح 3: کوتاه‌ترین عبارتی را بنویسید که با مقداردهی مستقیم به خطا می‌خورد. پاسخ مورد انتظار: ضرب یک مقدار در خودش؛ مشتق در نقطه‌ی 3 باید 6.0 باشد، اما با مقداردهی مستقیم 3.0 می‌شود.
  • سطح 3: چرا ترتیب توپولوژیک برای این باگ اهمیت دارد؟ پاسخ مورد انتظار: تمام مصرف‌کنندگانِ یک گره باید قبل از انتشار گرادیان توسط خود آن گره اجرا شوند؛ با مقداردهی مستقیم، نتیجه به این وابسته می‌شود که کدام مصرف‌کننده آخر از همه اجرا شده است.
  • سطح 4: این قاعده‌ی انباشت گرادیان در فریم‌ورکی که استفاده می‌کنید کجای کار خودش را نشان می‌دهد؟ پاسخ مورد انتظار: متغیر grad یک تنسور (tensor) در دفعات مختلف استفاده و در طول فراخوانی‌های backward انباشته می‌شود؛ به همین دلیل است که متد zero_gradِ بهینه‌ساز باید قبل از هر گام اجرا شود.
جواب‌های اشتباهی که مصاحبه‌گرها زیاد می‌شنوند
  • «مقداردهی مستقیم مشکلی ندارد، چون هر گره فقط یک والد دارد.» گرهی که ورودی دو عملیات است، در گراف دو مصرف‌کننده دارد؛ همچنین هر وزن در یک تابع زیانِ جمع‌شده، به ازای هر نمونه یک مصرف‌کننده دارد.
  • «چون مقدار تابع زیان هنوز کم می‌شود، پس گرادیان‌ها درست هستند.» یک گرادیان نادرست هم می‌تواند تا حدی رو به سرازیری باشد. فقط بررسی عددی گرادیان صحت آن را اثبات می‌کند.
  • «به جای جمع، از میانگین متحرک استفاده کنید.» قاعده‌ی زنجیره‌ای سهم مشتق مسیرها را با هم جمع می‌کند؛ میانگین گرفتن، گرادیان واقعی را بر تعداد مصرف‌کنندگان تقسیم می‌کند.

کجای دوره آموزش داده می‌شود

درس قاعده‌ی زنجیره‌ای و مشتق‌گیری خودکار کلاس Value و بررسی عددی گرادیانی را می‌سازد که این باگ را می‌گیرد.