قوانین زیررشتهای شناساگر شما عبارت «تمام دستورالعملها را نادیده بگیر» (ignore all instructions) را در متن ساده به دام میاندازند. مهاجمان حالا همین عبارت را در قالب base64، rot13، زبان لیت (leet speak) و با کاراکترهای نامرئی میان حروف ارسال میکنند. مرحلهای را طراحی کنید که پیش از این قوانین اجرا شود و بگویید هنگام انجام آن نباید کدام سیگنالها را دور بریزید.
اول خودتان جواب بدهید، بعد پاسخ را باز کنید.
پاسخ کوتاه
یک مرحلهی نرمالسازی (normalize pass) اضافه کنید که نسخهی کاریِ پاکسازیشدهای تولید کند: کاراکترهای با عرض صفر (zero width) و کاراکترهای کنترلی دوجهته (bidirectional control) را حذف کنید؛ توکنهایی را که شبیه base64 هستند پیش از کوچک کردن حروف رمزگشایی کنید (چون base64 به بزرگی و کوچکی حروف حساس است)؛ سپس حروف را کوچک کنید، توالیهای هگزادسیمال و rot13 را رمزگشایی کنید و ارقام leet را به حروف معادلشان برگردانید. قوانین را هم روی متن خام و هم روی متن نرمالشده اجرا کنید؛ چون خودِ کاراکترهای با عرض صفرِ اضافهشده، سیگنالی از ترفندهای انکودینگ هستند که دیگر در نسخهی پاکسازیشده دیده نمیشوند.
پاسخ کامل
رده
ترفندهای انکودینگ از شکل ظاهری توکنهای ممنوعه سوءاستفاده میکنند. کلمات همان هستند اما بایتها تغییر کردهاند؛ بنابراین یک فیلتر سادهی کلمات کلیدی آنها را از دست میدهد. روشهای base64، rot13، زبان leet و درج کاراکترهای با عرض صفر، از اشکال رایج آن هستند.
مرحلهی پردازش
- کاراکترهای با عرض صفر و کنترلهای دوجهته را از نسخهی کاری حذف کنید.
- به ازای هر توکن با 16 کاراکتر یا بیشتر که شبیه base64 است، آن را رمزگشایی کنید و در صورت موفقیت، متن رمزگشاییشده را جایگزین نمایید. این کار را حتماً پیش از مرحلهی کوچک کردن حروف انجام دهید؛ چرا که base64 به بزرگی و کوچکی حروف حساس است و توکن با حروف کوچک به بایتهای متفاوتی رمزگشایی میشود.
- حروف نسخهی کاری را کوچک کنید.
- توالیهای هگزادسیمال را هم به همین ترتیب رمزگشایی کنید.
- ارقام leet را به حروف معادلشان نگاشت کنید.
- تصویر rot13 متن را بسازید و تنها در صورتی آن را نگه دارید که بر اساس یک فهرست واژگان درونی و کوچک، کلمات فرهنگلغتی بیشتری نسبت به متن ورودی داشته باشد. هر رشتهای یک تصویر rot13 دارد؛ بنابراین این بررسی جلوی تبدیل متنهای بیخطر به نویز را میگیرد.
چه چیزهایی را باید نگه داشت؟
پرامپت خام در کنار نسخهی کاری حفظ میشود و قوانین میتوانند هر دو را بخوانند. کاراکترهای با عرض صفر درون یک کلمه، خود بهتنهایی شواهد یک حمله هستند؛ از طرفی، دستور رمزگشایی مانند «این را رمزگشایی کن و سپس آن را انجام بده» خود الگوی حمله بهشمار میرود، چه محموله (payload) به چیزی رمزگشایی بشود و چه نشود. یک قانون از خانوادهی عبارتهای منظم (regex) روی الگوی «رمزگشایی و اقدام کن»، پیش از آنکه محتوای محموله اهمیتی پیدا کند آن را شکار میکند.
چه چیزهایی را باید اندازه گرفت؟
بازخوانی (Recall) روی ردهی انکودینگ (که شناساگر باید به سمت آن گرایش داشته باشد) و هزینهی مثبت کاذب روی پیکره متنی دادههای بیخطر، یعنی جایی که توسعهدهندگان یک رشتهی واقعی base64 را جایگذاری میکنند و راهنمایی میخواهند. اجراکنندهی متریکها (metrics runner) در هر تغییر، هر دو شاخص را به ازای هر رده گزارش میدهد.
سؤالهای تکمیلی مصاحبهگر
- سطح 2: چرا رمزگشایی rot13 به بررسی واژگان نیاز دارد؟ انتظار میرود: هر متنی یک تصویر rot13 دارد؛ نگهداشتن آن تنها در صورتی که بیشتر شبیه به کلمات واقعی باشد، مانع تبدیل متنهای بیخطر به نویز میشود.
- سطح 2: این رده از حملات از کدام مرز سوءاستفاده میکند؟ انتظار میرود: شکل ظاهری توکنهای ممنوعه، بهطوری که از دید فیلترهای کلمات کلیدی پنهان بماند.
- سطح 3: یک توسعهدهنده یک رشتهی واقعی base64 را جایگذاری میکند و کمک میخواهد. چه اتفاقی میافتد و هزینهی آن کجا نمایان میشود؟ انتظار میرود: رمزگشایی ممکن است متنی تولید کند که هیچ قانونی را فعال نکند یا باعث مثبت کاذب شود؛ این هزینه در پیکره متنی دادههای بیخطر درون اجراکنندهی متریکها خود را نشان میدهد.
- سطح 3: محموله به هیچ متنی رمزگشایی نمیشود. آیا پرامپت همچنان میتواند یک حمله باشد؟ انتظار میرود: بله؛ دستورِ رمزگشایی و اجرا کردن، خود الگوی حمله است؛ یک قانون خانواده روی این الگو، پیش از آنکه محموله مهم باشد فعال میشود.
جوابهای اشتباهی که مصاحبهگرها زیاد میشنوند
- «همهچیز را رمزگشایی کنید و متن اصلی را دور بیندازید.» متن خام سیگنالهایی (مانند کاراکترهای نامرئی) همراه دارد که نسخهی پاکسازیشده آنها را حذف میکند.
- «هرگونه base64 را در پرامپت مسدود کنید.» پرامپتهای بیخطر هم دادههای انکودشده حمل میکنند؛ پیش از آنکه صرفِ وجود چنین دادههایی را مسدود کنید، هزینهی مثبت کاذب را روی مجموعهی دادههای بیخطر بسنجید.
- «نرمالسازی همان شناساگر است.» این کار صرفاً توکنهای پنهان را در معرض دید قوانین قرار میدهد؛ قوانین و اجراکنندهی متریکها شناساگر هستند.
کجای دوره آموزش داده میشود
در پروژهی پایانی شناساگر تزریق پرامپت مرحلهی نرمالسازی پیادهسازی میشود و در پروژهی پایانی ردهبندی جیلبریک ردهی ترفندهای انکودینگ تعریف میگردد.