Sistem AI di layanan publik dapat menentukan prioritas, mendeteksi risiko, menyeleksi kasus, atau membantu keputusan petugas. Efisiensi memang penting, tetapi kesalahan dalam konteks ini tidak berhenti sebagai bug. Ia dapat memengaruhi akses layanan, waktu tunggu, reputasi, dan hak seseorang.
Masalah governance jarang muncul karena organisasi tidak memiliki dokumen. Masalahnya muncul ketika dokumen tidak terhubung dengan pengadaan, pengembangan, operasi, dan jalur pengaduan. Di titik itu, prinsip menjadi dekorasi, sementara keputusan tetap berjalan seperti biasa.
Sebelum warga menjadi bahan uji coba
Algorithmic Impact Assessment adalah proses untuk mengidentifikasi tujuan, pihak terdampak, sumber data, risiko diskriminasi, keamanan, transparansi, serta mekanisme pemulihan sebelum sistem dipakai. Penilaian yang baik juga menjelaskan alternatif non-AI dan alasan mengapa otomatisasi diperlukan.
Dampak harus dinilai sejak perencanaan
Dokumen semacam ini tidak boleh menjadi formulir yang diisi vendor setelah keputusan pembelian dibuat. Dampak harus dinilai sejak perencanaan, diuji saat pilot, dan diperbarui ketika data, model, atau fungsi berubah. Publik perlu mengetahui setidaknya fungsi sistem, kategori risiko, dan jalur keberatan.
Indonesia sedang mendorong digitalisasi layanan. Kondisi data antarlembaga, ketimpangan wilayah, dan variasi kapasitas pemerintah daerah membuat evaluasi dampak semakin penting. Model yang terlihat baik pada data pusat bisa menghasilkan konsekuensi berbeda ketika dipakai di lapangan.
Pihak yang paling dekat dengan algorithmic impact assessment, termasuk pemerintah, auditor, masyarakat sipil, vendor, dan publik, perlu melihat siapa yang memegang kendali. Arahan seperti “Jelaskan masalah publik yang hendak diselesaikan dan alternatifnya” dan “Identifikasi kelompok yang paling mungkin dirugikan” jauh lebih berguna daripada menambah slogan tata kelola yang tidak mengubah cara kerja.
Hak untuk dikoreksi harus nyata
- Jelaskan masalah publik yang hendak diselesaikan dan alternatifnya.
- Identifikasi kelompok yang paling mungkin dirugikan.
- Uji kualitas data, false positive, false negative, dan bias distribusi.
- Tetapkan petugas manusia yang dapat membatalkan hasil.
- Publikasikan ringkasan dampak dan jalur pengaduan yang mudah ditemukan.
Bahasa pemasaran cenderung menampilkan skenario terbaik. Artikel ini mengambil jarak dari itu: algorithmic impact assessment harus dinilai melalui manfaat yang terukur, bentuk kegagalan yang masuk akal, dan kemampuan memperbaiki keputusan.
Untuk memisahkan fakta dari promosi, artikel ini merujuk NIST AI Risk Management Framework dan OECD AI Incidents and Hazards Monitor Methodology. Rujukan itu memberi kerangka, sementara hasil nyata tetap bergantung pada data, konfigurasi, dan pengawasan manusia.
Layanan publik tidak membutuhkan AI yang sekadar canggih. Ia membutuhkan sistem yang manfaatnya dapat dibuktikan dan dampaknya dapat dipertanggungjawabkan sebelum warga menanggung kesalahannya.
Sistem algorithmic impact assessment yang layak dipercaya tidak meminta kepercayaan buta; ia meninggalkan jejak yang cukup untuk diperiksa.
Bacaan lanjutan: Sebelum warga menjadi bahan uji coba
RPerpres AI Indonesia 2026: Bedakan Roadmap, Etika, dan Aturan yang Sudah Berlaku, AI Incident Register: Mengapa Kesalahan Sistem Harus Dicatat, Bukan Disembunyikan, AI Governance & Regulation dan metodologi editorial Undercover.id.