ایمنی
Safety
دور زدن پاداش، تزریق پرامپت، جیلبریکها، امتناع مدل و گیتهای ایمنی.
- ۲۲ سؤال
- ۴ ساعت تمرین
- پاسخها بستهاند تا اول خودتان جواب بدهید
سطح
نوع
۲۲ سؤال
سطح ۱ غربالگری ۳
سطح ۲ میانی ۹
- محدودیتهایی که یک دستهبند نمیتواند ببیند
- چهار یافته در ارزیابی، یک سازوکار مشترک
- جریمهی موافقت چقدر باید سنگین باشد؟
- برچسبگذاری دوباره مشکل بلهقربانگویی را حل نمیکند
- جایگزینی برچسبگذاران با مدلی که اصول را میخواند
- دفاع در برابر تزریق فقط یک عبارت منظم است
- ورودی تأیید شد، اما خروجی نشت کرد
- مدل عدد 0.9 را اعلام میکند اما از هر ده بار، فقط شش بار درست میگوید
- یک حمله در قالب base64، rot13 و کاراکترهای با عرض صفر
سطح ۳ ارشد ۷
- گزارشی با یک جدول و نرخ امتناع 97 درصدی
- امتناع مدل زیر ذرهبین، امتناع مدل در خلوت
- بازنویسی پرونده ایمنی برای قبولی در ارزیابی
- دتکتور گفت بیخطر است، اما استریم قطع شد
- جریمهی KL جلوی دریفت را میگیرد، نه دور زدن پاداش را
- پرامپتهای تیم سرخ اکنون همگی پاس میشوند
- بررسی سه درخواست در تجمیعکنندهی گیت ایمنی