Perkembangan Agentic AI telah mengubah cara sistem kecerdasan buatan berinteraksi dengan dunia digital. Berbeda dengan chatbot konvensional yang hanya menghasilkan respons, Agentic AI mampu mengambil keputusan, menjalankan tugas secara mandiri, mengakses berbagai layanan, hingga berinteraksi dengan API dan sistem perusahaan tanpa campur tangan manusia secara langsung.

Kemampuan tersebut membawa manfaat besar bagi produktivitas, tetapi juga memperkenalkan tantangan keamanan baru yang dikenal sebagai Authorization Gap. Banyak peneliti keamanan siber menilai masalah ini sebagai salah satu risiko terbesar dalam implementasi AI otonom karena menyangkut bagaimana agen AI memperoleh dan menggunakan hak akses terhadap sistem.

Apa Itu Agentic AI?

Agentic AI adalah sistem AI yang memiliki kemampuan untuk:

Merencanakan serangkaian tindakan.
Mengambil keputusan berdasarkan tujuan tertentu.
Menggunakan berbagai alat (tools).
Mengakses API eksternal.
Berinteraksi dengan database.
Menjalankan workflow otomatis.
Berkomunikasi dengan agen AI lainnya.

Contohnya adalah AI yang dapat menerima perintah seperti:

“Buat laporan penjualan minggu ini, kirimkan ke tim keuangan, jadwalkan rapat, lalu buatkan presentasi.”

Untuk menyelesaikan tugas tersebut, AI harus mengakses berbagai layanan yang sebelumnya hanya digunakan manusia.

Memahami Authorization Gap

Authorization Gap adalah kondisi ketika kemampuan AI dalam melakukan tindakan berkembang lebih cepat dibandingkan mekanisme otorisasi yang mengendalikan tindakan tersebut.

Dengan kata lain:

AI mampu melakukan sesuatu, tetapi sistem belum memiliki aturan yang cukup rinci untuk memastikan apakah AI memang seharusnya diizinkan melakukan tindakan tersebut.

Masalah ini tidak selalu berasal dari bug, melainkan dari desain arsitektur yang belum mempertimbangkan karakteristik agen AI yang mampu bertindak secara otonom.

Mengapa Authorization Gap Terjadi?

Pada aplikasi tradisional, proses otorisasi biasanya cukup sederhana:

User
 ↓
Authentication
 ↓
Authorization
 ↓
Resource

Namun pada Agentic AI, alurnya menjadi jauh lebih kompleks:

User
 ↓
LLM
 ↓
Agent
 ↓
Planner
 ↓
Tool
 ↓
API
 ↓
Database
 ↓
Cloud Services
 ↓
Third-party Platform

Setiap lapisan memiliki mekanisme izin yang berbeda.

Masalah muncul ketika AI membawa identitas pengguna ke berbagai layanan tanpa validasi yang memadai atau ketika agen memperoleh hak akses yang terlalu luas agar seluruh workflow dapat berjalan dengan lancar.

Contoh Authorization Gap

Bayangkan seorang karyawan meminta AI:

“Cari laporan keuangan terakhir dan kirimkan kepada saya.”

AI kemudian:

Mengakses SharePoint.
Mengakses Google Drive.
Membuka ERP perusahaan.
Mengambil file dari server internal.
Mengirim email.

Jika agen hanya memeriksa bahwa pengguna telah berhasil login, tanpa mengevaluasi apakah pengguna memang memiliki hak untuk membaca setiap dokumen tersebut, maka AI dapat mengakses informasi yang seharusnya tidak boleh dilihat oleh pengguna.

Dalam kasus ini, AI menjadi confused deputy, yaitu menjalankan tindakan dengan hak akses yang lebih tinggi daripada yang dimiliki pengguna.

Dampak Authorization Gap

Authorization Gap dapat menyebabkan berbagai insiden keamanan, seperti:

Kebocoran Data

AI dapat mengambil dokumen rahasia, kontrak, laporan keuangan, atau informasi pelanggan tanpa pembatasan yang memadai.

Privilege Escalation

Agen memperoleh izin administratif agar workflow berjalan lebih mudah, sehingga apabila dikompromikan, dampaknya menjadi jauh lebih besar.

Cross-System Access

Satu prompt dapat menyebabkan AI mengakses berbagai sistem sekaligus, termasuk layanan cloud, database internal, dan aplikasi SaaS.

Compliance Violation

Pengambilan data tanpa kontrol yang tepat dapat melanggar regulasi seperti GDPR, HIPAA, ISO 27001, maupun kebijakan internal organisasi.

Supply Chain Risk

Banyak Agentic AI menggunakan plugin, tool, atau layanan pihak ketiga. Jika salah satu komponen tersebut memiliki kontrol akses yang lemah, seluruh rantai layanan dapat ikut terdampak.

Authorization Gap Bukan Sekadar Masalah API

Banyak organisasi menganggap bahwa selama API telah menggunakan OAuth atau API Key, maka sistem sudah aman.

Padahal Authorization Gap dapat muncul meskipun autentikasi telah dilakukan dengan benar.

Contohnya:

Token memiliki cakupan izin (scope) yang terlalu luas.
AI menggunakan service account dengan hak administratif.
Semua tool menggunakan kredensial yang sama.
Tidak ada validasi izin pada setiap tindakan.
AI dapat membuat keputusan sendiri tanpa persetujuan manusia.

Dengan kata lain, masalah utamanya bukan pada siapa yang mengakses sistem, tetapi apa yang boleh dilakukan setelah akses diberikan.

Hubungannya dengan MCP dan Tool Calling

Munculnya standar seperti Model Context Protocol (MCP) memungkinkan AI terhubung dengan berbagai layanan secara lebih mudah.

Melalui MCP, satu agen dapat mengakses:

Git repository
Database SQL
Sistem tiket
Kalender
Email
Cloud Storage
CRM
ERP
Platform DevOps

Semakin banyak tool yang tersedia, semakin besar pula permukaan serangan (attack surface) yang harus diamankan.

Tanpa kontrol otorisasi yang konsisten pada setiap tool, Authorization Gap akan semakin sulit dideteksi.

Strategi Mitigasi

Organisasi perlu menerapkan beberapa pendekatan keamanan sekaligus.

1. Principle of Least Privilege

Berikan agen AI hanya izin minimum yang benar-benar diperlukan untuk menyelesaikan tugas.

2. Fine-Grained Authorization

Setiap tindakan harus divalidasi secara individual, bukan hanya saat pengguna pertama kali login.

3. Human Approval

Untuk tindakan berisiko tinggi seperti:

Menghapus data
Transfer dana
Mengubah konfigurasi
Mengirim data sensitif

AI sebaiknya meminta persetujuan manusia sebelum mengeksekusi tindakan.

4. Identity Propagation

Hak akses pengguna harus tetap dipertahankan sepanjang workflow, sehingga AI tidak menggunakan identitas dengan hak akses yang lebih tinggi.

5. Audit Logging

Semua tindakan AI harus dicatat secara lengkap, termasuk:

Prompt pengguna
Tool yang digunakan
API yang dipanggil
Data yang diakses
Keputusan yang dibuat
Hasil eksekusi

Audit log sangat penting untuk investigasi insiden maupun pemenuhan kepatuhan.

6. Policy Enforcement

Gunakan mesin kebijakan (policy engine) yang mampu mengevaluasi izin berdasarkan konteks, identitas pengguna, jenis data, lokasi, waktu, dan tingkat sensitivitas operasi.

Masa Depan Authorization pada AI

Seiring berkembangnya Agentic AI, pendekatan keamanan tradisional tidak lagi memadai. Organisasi mulai mengadopsi konsep seperti:

Zero Trust Architecture
Attribute-Based Access Control (ABAC)
Policy-as-Code
Continuous Authorization
Risk-Based Access Control
AI Runtime Security

Model keamanan tersebut dirancang untuk memastikan bahwa setiap tindakan AI terus dievaluasi secara dinamis, bukan hanya saat proses login berlangsung.

Kesimpulan

Authorization Gap merupakan salah satu tantangan keamanan paling signifikan dalam era Agentic AI. Ketika agen AI mampu menjalankan tugas lintas sistem secara otonom, mekanisme otorisasi yang dirancang untuk aplikasi tradisional sering kali tidak lagi memadai.

Mengatasi masalah ini memerlukan kombinasi antara kontrol akses yang lebih rinci, prinsip least privilege, pemantauan berkelanjutan, audit yang komprehensif, serta persetujuan manusia untuk operasi berisiko tinggi. Organisasi yang mengintegrasikan Agentic AI tanpa memperkuat lapisan otorisasi berisiko menghadapi kebocoran data, penyalahgunaan hak akses, hingga pelanggaran kepatuhan.

Di masa depan, keberhasilan implementasi AI tidak hanya ditentukan oleh kecerdasan model, tetapi juga oleh kemampuan organisasi dalam memastikan bahwa setiap tindakan AI dilakukan dengan izin yang tepat, pada waktu yang tepat, dan untuk tujuan yang sah.

Authorization Gap pada Agentic AI: Ancaman Keamanan Baru di Era AI Otonom