Agen yang membaca email dapat memahami permintaan bisnis. Agen yang terhubung ke pembayaran dapat menyiapkan transaksi. Menggabungkan keduanya menciptakan jalur efisien, sekaligus konsentrasi kekuasaan yang biasanya dipisahkan dalam kontrol internal.
Agen dapat bertindak seperti staf berkecepatan tinggi. Kontrolnya harus setidaknya sekuat kontrol untuk pegawai dengan akses istimewa.
Agen internal dapat memiliki kuasa lebih besar dari pegawai baru
Risiko insider tidak selalu berarti niat jahat. Agen dapat salah memahami pesan, terpengaruh prompt injection, memakai data lama, atau mengikuti instruksi dari akun yang diretas. Karena sistem bergerak cepat, kesalahan dapat melewati beberapa langkah sebelum manusia melihat.
Ketika agen mendapat akses istimewa, ia harus diperlakukan seperti aktor internal berisiko tinggi. Pemisahan tugas, batas transaksi, persetujuan berlapis, dan penghentian otomatis menjadi kontrol dasar, bukan tambahan.
Tidak semua orang yang terdampak agen AI insider risk berada di ruang pengambilan keputusan. Karena itu, CFO, CISO, IT, finance, audit, dan manajemen perlu dilibatkan saat organisasi menerapkan dua langkah awal: “Pisahkan agen pembaca, penyusun, dan eksekutor” dan “Wajibkan persetujuan manusia ganda untuk nilai tertentu”. Desain yang baik memberi ruang keberatan sebelum kerugian terjadi.
Email dan pembayaran adalah kombinasi berbahaya
Perusahaan Indonesia yang memakai persetujuan lewat chat perlu memperkuat alur kerja sebelum menambahkan agen. Bukti percakapan bukan pengganti otorisasi formal. Log harus menghubungkan email, rekomendasi, persetujuan, dan transaksi.
Langkah paling berguna justru berada di level operasional. Mulai dari “Pisahkan agen pembaca, penyusun, dan eksekutor”, lanjutkan dengan “Wajibkan persetujuan manusia ganda untuk nilai tertentu”, dan jangan memperluas sistem sebelum “Sediakan kill switch dan rekonsiliasi harian”.
Pisahkan tugas sebelum mengotomatisasi
Segregation of duties harus diterapkan pada mesin. Agen yang membaca permintaan tidak seharusnya dapat menyetujui dan mengeksekusi pembayaran. Threshold, daftar penerima, waktu, dan anomali perlu dikontrol.
Pembahasan ini bertumpu pada NIST CAISI: Securing AI Agent Systems, NIST: Identity and Authority of Software Agents dan NIST AI Risk Management Framework. Sumber tersebut membantu menjelaskan arah dan batas agen AI insider risk, tetapi tidak menggantikan pengujian pada produk, kebijakan, atau organisasi tertentu.
Tidak semua organisasi membutuhkan jawaban yang sama. Skala, jenis data, dampak terhadap manusia, dan kapasitas pengawasan akan menentukan apakah pendekatan terhadap agen AI insider risk layak diperluas atau justru dihentikan.
Kedewasaan penggunaan agen AI insider risk tidak diukur dari banyaknya fitur, tetapi dari manfaat dan risiko yang dapat dijelaskan kepada pihak terkait.
Bacaan lanjutan: Agen internal dapat memiliki kuasa lebih besar dari pegawai baru
Deepfake Tidak Perlu Sempurna untuk Menipu, Cukup Tepat Waktu dan Tepat Sasaran, Prompt Injection di Dunia Agentic AI: Instruksi Jahat Bisa Masuk lewat Dokumen Biasa, Cybersecurity & Trust dan metodologi editorial Undercover.id.