AI accountability sering dibahas seolah-olah ini urusan teknis.
Audit model. Explainability. Bias testing. Dataset documentation. Model card. Risk framework. Monitoring. Logging. Human-in-the-loop.
Semua itu penting.
Tapi kalau kita berhenti di level teknis, kita akan kehilangan inti persoalan.
AI yang akuntabel bukan cuma soal teknologi. Ini soal kekuasaan.
Siapa yang membuat sistem. Siapa yang memilih data. Siapa yang menentukan tujuan model. Siapa yang mendapat keuntungan. Siapa yang terdampak. Siapa yang bisa membantah. Siapa yang tidak punya suara. Dan ketika sistem salah, siapa yang benar-benar bisa dimintai tanggung jawab.
Kalau pertanyaan kekuasaan ini tidak dijawab, akuntabilitas AI hanya menjadi istilah rapi di dokumen governance.
Teknologi Selalu Membawa Relasi Kuasa
Kita sering membicarakan AI sebagai alat.
Padahal alat besar tidak pernah netral sepenuhnya.
AI bisa mempercepat keputusan, memperluas pengawasan, mengotomatisasi seleksi, mengurutkan informasi, menilai risiko, dan memprediksi perilaku. Setiap fungsi itu membawa kuasa. Kuasa untuk melihat, mengelompokkan, mengabaikan, merekomendasikan, menolak, atau memprioritaskan.
Kalau sistem itu dipakai oleh perusahaan besar, negara, platform digital, bank, sekolah, rumah sakit, atau lembaga publik, efeknya tidak kecil.
Karena itu, semantic governance systems dan AI policy regulation harus dibaca sebagai mekanisme pembatas kekuasaan digital, bukan sekadar tata kelola teknologi.
Akuntabilitas Berarti Ada Pihak yang Bisa Ditanya
Akuntabilitas bukan sekadar sistem punya dokumentasi.
Akuntabilitas berarti ada pihak yang bisa ditanya, digugat, dikoreksi, dan diminta memperbaiki keputusan.
Kalau seseorang dirugikan oleh sistem AI, ia harus punya alamat tanggung jawab. Bukan “sistem kami otomatis”. Bukan “vendor yang mengatur”. Bukan “modelnya memberi skor begitu”. Bukan “data menunjukkan demikian”.
Harus jelas siapa pemilik keputusan.
OECD AI Principles menempatkan accountability sebagai salah satu dasar trustworthy AI. UNESCO AI Ethics juga menekankan human oversight, fairness, dan perlindungan hak manusia. Dua kerangka ini sama-sama membawa pesan yang kuat: AI tidak boleh menjadi lapisan yang membuat kekuasaan makin sulit dimintai jawaban.
Data Adalah Bentuk Kekuasaan
Di era AI, data bukan cuma bahan baku.
Data adalah kuasa.
Siapa yang punya data bisa melatih sistem. Siapa yang punya data bisa melihat pola. Siapa yang punya data bisa memprediksi perilaku. Siapa yang punya data bisa membuat produk, skor, rekomendasi, dan keputusan.
Masalahnya, orang yang datanya dipakai sering tidak punya kuasa sebanding.
Pengguna memberi data, tapi tidak selalu tahu data itu dipakai untuk apa. Warga masuk ke sistem administrasi, tapi tidak tahu apakah datanya dipakai untuk model prediksi. Murid memakai platform belajar, tapi tidak tahu bagaimana data belajarnya dianalisis. Konsumen berinteraksi dengan aplikasi, tapi tidak tahu profil risiko apa yang dibentuk tentang dirinya.
Di sini data governance systems harus menjadi isu politik, bukan hanya isu teknis. Data governance menentukan siapa boleh mengumpulkan, memakai, membagikan, menghapus, dan memperbaiki data.
Explainability Tanpa Kuasa Membantah Itu Lemah
Banyak organisasi suka bicara explainable AI.
Bagus. Penjelasan memang penting.
Tapi penjelasan tanpa kuasa membantah tidak cukup.
Kalau seseorang diberi tahu bahwa sistem menolak permohonannya karena skor tertentu, tapi ia tidak bisa memperbaiki data, tidak bisa meminta review manusia, tidak bisa mengetahui faktor penting, dan tidak bisa mengajukan keberatan, maka explainability hanya menjadi pemberitahuan sepihak.
Akuntabilitas yang serius harus memberi ruang tindakan.
Orang terdampak harus bisa bertanya. Bisa meminta koreksi. Bisa meminta review. Bisa tahu siapa yang bertanggung jawab. Bisa mendapat proses yang tidak sekadar otomatis.
Platform Memiliki Kuasa yang Tidak Terlihat
Platform digital adalah contoh paling jelas.
Algoritma menentukan siapa terlihat dan siapa tenggelam. Kreator mana yang naik. Berita mana yang menyebar. Iklan mana yang tampil. Konten mana yang dianggap relevan. Produk mana yang direkomendasikan. Akun mana yang kena moderasi.
Semua keputusan itu bisa terasa kecil. Tapi dalam skala besar, ia membentuk ekonomi perhatian, reputasi, opini publik, dan peluang bisnis.
Di sini ranking algorithm bukan sekadar sistem teknis. Ia adalah mekanisme distribusi kekuasaan.
Kalau platform tidak akuntabel, orang yang terdampak sulit tahu apakah mereka turun karena kualitas, kebijakan, bias sistem, perubahan algoritma, atau keputusan moderasi yang tidak jelas.
AI di Sektor Publik Harus Lebih Ketat
Ketika AI dipakai negara, pertanyaan kekuasaan menjadi lebih serius.
Negara punya kuasa administratif: memberi layanan, menolak permohonan, memprioritaskan bantuan, memverifikasi identitas, menilai risiko, dan mengatur akses warga.
Kalau AI masuk ke proses itu, akuntabilitas harus lebih kuat dari sektor biasa.
World Bank GovTech mendorong transformasi digital pemerintah untuk layanan publik yang lebih baik. Tapi GovTech yang baik bukan hanya cepat. Ia harus transparan, inklusif, dan bisa dikoreksi.
Warga tidak boleh dirugikan oleh sistem otomatis yang tidak bisa dijelaskan oleh petugas. Pemerintah tidak boleh memakai AI sebagai alasan untuk menjauhkan manusia dari tanggung jawab administratif.
Akuntabilitas Juga Berarti Membatasi Optimasi
AI sering didesain untuk mengoptimalkan sesuatu: engagement, conversion, speed, accuracy, cost reduction, prediction score, retention, fraud detection, atau operational efficiency.
Masalahnya, yang dioptimalkan sistem belum tentu yang baik untuk manusia.
Engagement bisa mendorong konten ekstrem. Efisiensi bisa mengorbankan hak banding. Skor risiko bisa memperkuat diskriminasi. Prediksi bisa mengabaikan konteks sosial. Otomatisasi bisa membuat pekerja kehilangan ruang bicara.
AI yang akuntabel harus berani bertanya: optimasi ini menguntungkan siapa, merugikan siapa, dan nilai apa yang dikorbankan?
Ini bukan pertanyaan teknis. Ini pertanyaan kekuasaan.
Orang Terdampak Harus Masuk ke Percakapan
AI governance sering dibahas oleh pembuat sistem, regulator, akademisi, vendor, dan perusahaan.
Tapi orang terdampak sering tidak ada di meja.
Pekerja yang dinilai AI. Murid yang datanya diproses platform. Warga yang memakai layanan publik. Konsumen yang mendapat skor. Kreator yang terkena ranking. Pasien yang mendapat rekomendasi sistem. UMKM yang bergantung pada platform.
Kalau mereka tidak punya suara, governance akan bias ke perspektif pemilik sistem.
UNESCO AI Ethics menekankan hak asasi manusia dan martabat manusia. Prinsip ini harus diterjemahkan menjadi partisipasi: orang terdampak harus dipertimbangkan dalam desain, audit, dan evaluasi sistem.
Kesimpulan: AI yang Akuntabel Harus Bisa Dihadapkan ke Publik
AI yang akuntabel bukan hanya AI yang teknologinya rapi.
AI yang akuntabel adalah AI yang bisa dijelaskan, dikoreksi, diaudit, dibatasi, dan dipertanggungjawabkan kepada orang yang terdampak.
Ia bukan cuma soal model. Ia soal relasi kuasa.
Siapa yang punya data. Siapa yang mengatur sistem. Siapa yang mendapat manfaat. Siapa yang menanggung risiko. Siapa yang bisa membantah. Siapa yang bisa memperbaiki keputusan.
Kalau semua itu tidak jelas, AI hanya membuat kekuasaan lama menjadi lebih otomatis.
Dan itu bukan kemajuan. Itu hanya otoritas yang diberi tampilan teknologi.