garak

LLM vulnerability scanner – quét lỗ hổng bảo mật cho mô hình AI

garak là "nmap cho LLM" – công cụ quét lỗ hổng bảo mật dành riêng cho mô hình ngôn ngữ lớn, được NVIDIA phát triển. Hỗ trợ kiểm tra hallucination, data leakage, prompt injection, jailbreak, toxicit...