Prompt Injection

Definisi

Prompt Injection adalah teknik serangan AI di mana penyerang menyuntikkan perintah berbahaya ke input untuk memanipulasi perilaku model AI, melewati batasan keamanan, atau mengekstrak informasi sensitif.

Cara Kerja

Direct injection: perintah dalam input langsung. Indirect injection: perintah dalam konten yang dibaca AI dari sumber eksternal (web, email). Prompt injection memanipulasi AI untuk mengabaikan instruksi asli dan mengikuti instruksi penyerang.

Dampak & Relevansi

Prompt injection adalah ancaman keamanan AI paling serius. Dapat menyebabkan AI mengekspos data internal, mengambil tindakan berbahaya, atau menghasilkan konten tidak aman. Mitigasi: guardrails, input sanitization, dan output filtering.

Kategori Huruf P

Jumlah Istilah 10

Total Glosarium 161

Istilah Terkait

Istilah lain dalam kategori huruf P: