Kembali ke Glosarium
Kategori J
Jailbreak (AI)
Definisi
Jailbreak AI adalah teknik untuk melewati batasan keamanan model AI besar, memungkinkan model menghasilkan output yang seharusnya diblokir, seperti instruksi ilegal atau konten terlarang.
Cara Kerja
Jailbreak menggunakan prompt engineering kreatif: role-play, encoding, hypothetical scenarios, atau multi-language. Contoh: DAN (Do Anything Now) prompt yang memerintah AI mengabaikan safety guidelines.
Dampak & Relevansi
Jailbreak mengekspos kerentanan safety alignment model AI. Produsen AI secara kontinu memperbarui pertahanan, namun jailbreak baru terus muncul. AI red teaming dan guardrails diperlukan untuk mitigasi.
Istilah Terkait
Istilah lain dalam kategori huruf J: