Seseorang dapat dirugikan tanpa pernah diberi tahu bahwa AI ikut memengaruhi keputusan. Lamaran kerja tidak lolos, transaksi ditandai, layanan ditunda, atau akun dibatasi. Ketika pengguna hanya menerima pesan otomatis, ia tidak tahu data apa yang salah dan ke mana harus mengajukan koreksi.
Keputusan yang dibantu AI tetap merupakan keputusan organisasi. Karena itu, manusia yang terdampak harus memiliki jalan untuk bertanya, membantah, dan memulihkan kesalahan.
Keputusan mesin tetap menyentuh hidup manusia
Jalur keberatan yang bermakna harus lebih dari tombol kontak. Pengguna perlu mengetahui keputusan yang dipersoalkan, dasar umum, data relevan, batas waktu, dan siapa yang memiliki kewenangan meninjau ulang. Peninjauan manusia tidak boleh sekadar mengulang hasil model tanpa penilaian independen.
Sistem berdampak tinggi tidak boleh hanya dinilai oleh pihak yang menjual atau mengoperasikannya. Perspektif warga, pekerja, auditor, dan kelompok yang paling mudah dirugikan harus masuk sebelum implementasi diperluas.
Konsekuensi keberatan atas keputusan AI dibagi tidak merata. Bagi publik, regulator, perusahaan, legal, dan pengelola layanan, dua kontrol yang paling konkret adalah “Beritahu pengguna ketika otomatisasi berperan material” serta “Sediakan kanal keberatan yang dapat diakses manusia”. Dengan begitu, tanggung jawab tidak menguap di antara vendor, pengguna, dan pemilik proses.
Keberatan tidak boleh menjadi tombol palsu
Di Indonesia, prinsip ini dapat dibaca bersama hak subjek data, perlindungan konsumen, tata kelola layanan, dan kewajiban sektoral. Organisasi tidak perlu menunggu istilah right to contest muncul dalam satu undang-undang AI untuk membangun proses yang adil.
Langkah paling berguna justru berada di level operasional. Mulai dari “Beritahu pengguna ketika otomatisasi berperan material”, lanjutkan dengan “Sediakan kanal keberatan yang dapat diakses manusia”, dan jangan memperluas sistem sebelum “Gunakan pola keberatan untuk memperbaiki model serta kebijakan”.
Peninjauan yang benar-benar bisa mengubah hasil
Hak keberatan juga meningkatkan kualitas sistem. Kasus yang dibatalkan dapat mengungkap data basi, identitas tertukar, threshold buruk, atau aturan yang tidak cocok dengan kelompok tertentu. Tanpa umpan balik ini, model terlihat konsisten karena orang yang dirugikan tidak pernah masuk ke metrik.
Pembahasan ini bertumpu pada UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi dan NIST AI Risk Management Framework. Sumber tersebut membantu menjelaskan arah dan batas keberatan atas keputusan AI, tetapi tidak menggantikan pengujian pada produk, kebijakan, atau organisasi tertentu.
Sumber yang tersedia tidak selalu mewakili kondisi Indonesia secara utuh. Karena itu, kesimpulan tentang keberatan atas keputusan AI perlu diuji dengan bahasa, data, institusi, dan keterbatasan lokal sebelum dijadikan kebijakan umum.
Tidak semua ketidakpastian keberatan atas keputusan AI harus hilang sebelum bertindak, tetapi setiap tindakan perlu memiliki batas yang dapat diperiksa.
Bacaan lanjutan: Keputusan mesin tetap menyentuh hidup manusia
AI Incident Register: Mengapa Kesalahan Sistem Harus Dicatat, Bukan Disembunyikan, Public AI Procurement: Klausul Apa yang Harus Ada dalam Kontrak Pemerintah, AI Governance & Regulation dan metodologi editorial Undercover.id.