رخدادهای تزریق پرامپت و CVEهای هوش مصنوعی

validator = Validator(
    allowed_tools=("search", "send_message", "read_memory"),
    sensitive_tools=("send_message",),
)
call = ToolCall("search", {"query": "<q>"}, intent="research")
contents = [Content("<text>", "user_message")]  # متن کاربر اسکن نمی‌شود
ok, reason = validator.assess(call, contents)   # لیست مجاز، آرگومان‌ها، بازیابی‌شده
if ok:
    executor.run(call)                          # فقط پس از مجاز بودن اجرا می‌شود
looks_like_directive("<text>")                  # نشانگر یا None
memory_write_guard(MemoryWrite("<text>"))       # رد نوشتن دستورالعمل‌ها

{"name": "ignore-previous", "category": "instruction-override",
 "score": 0.85, "substring": "ignore previous"}  # قاعده همان داده است
detector = Detector()                            # قواعد رجکس را یک‌بار کامپایل می‌کند
v = detector.analyze("<prompt>")                 # متن خام و نرمال‌شده
v.category                                       # رده‌ی برتر، بیشترین امتیاز آن
normalize(text)                                  # zero-width، base64، hex، leet، rot13
report = evaluate(detector, fixtures, benign)    # tp، fp، fn، tn به ازای هر رده
write_report(report)                             # outputs/detector_report.json