Ketika AI Dipakai untuk Bantuan Sosial, Kesalahan Data Bisa Menjadi Kesalahan Hidup

Di spreadsheet, satu baris data yang salah terlihat kecil.

Nama. Alamat. Status pekerjaan. Jumlah anggota keluarga. Nilai pengeluaran.

Satu cell keliru.

Tapi kalau baris itu menentukan siapa mendapat bantuan sosial, kesalahan data bukan lagi problem spreadsheet.

Ia menjadi problem hidup.

Bayangin keluarga yang kondisi ekonominya memburuk.

Ayah kehilangan pekerjaan. Ibu punya tanggungan baru. Alamat belum diperbarui. Database masih membaca kondisi tahun lalu.

Lalu sistem otomatis menilai keluarga itu tidak prioritas.

Secara teknis, model bekerja sesuai input.

Secara manusia, hasilnya salah.

Inilah alasan penggunaan AI untuk bansos harus diperlakukan sangat hati-hati.

AI bisa membantu menemukan pola, mendeteksi anomaly, mempercepat verifikasi, atau memprioritaskan review.

Tapi kalau data dasar salah, kecanggihan model tidak menyelamatkan keputusan.

Garbage in, hardship out.

Bansos adalah kategori high impact secara nyata

Kalau AI salah membuat rekomendasi film, annoyance.

Kalau AI salah menentukan eligibility bantuan, konsekuensinya bisa makanan, sekolah, obat, atau kemampuan membayar kebutuhan dasar.

Magnitude-nya beda.

Maka standar governance juga harus beda.

Tidak cukup bilang accuracy 95 persen.

Kalau 5 persen salah, siapa yang salah?

Apakah orang kaya salah menerima? Apakah orang miskin salah ditolak?

Dua jenis error ini punya dampak berbeda.

Dalam statistik sering disebut false positive dan false negative.

Dalam kehidupan nyata: orang yang tidak berhak menerima, dan orang yang berhak tetapi kehilangan bantuan.

Keduanya problem.

Tapi untuk keluarga rentan, exclusion error bisa sangat menyakitkan.

Itu sebabnya sistem harus dioptimalkan bukan hanya untuk efisiensi anggaran, tetapi juga fairness dan mekanisme koreksi.

Data sosial selalu bergerak

Kemiskinan bukan identitas permanen.

Orang bisa kehilangan pekerjaan. Sakit. Bercerai. Pindah rumah. Punya anak. Mengalami bencana. Usaha bangkrut.

Data yang akurat Januari bisa salah Juni.

Kalau AI bergantung pada snapshot lama, model terlihat presisi tetapi membaca masa lalu.

Ini problem data freshness.

Sistem bansos perlu update.

Bukan berarti semua data harus real-time.

Tidak realistis.

Tapi harus ada proses pemutakhiran yang jelas.

Siapa memperbarui? Seberapa sering? Sumbernya apa? Bagaimana warga mengoreksi?

Tanpa jalur koreksi, model memperkuat data lama.

Data administratif juga punya bias coverage

Orang yang paling rentan belum tentu paling digital.

Mungkin tidak punya rekening aktif. Tidak sering transaksi online. Tidak punya smartphone bagus. Alamat tidak formal. Pekerjaan informal.

Kalau model terlalu bergantung pada digital footprint, orang yang minim data bisa terlihat “tidak ada”.

Padahal kebutuhan mereka justru tinggi.

Ini disebut data invisibility.

AI suka data kaya.

Masyarakat tidak selalu hidup dalam data kaya.

Khususnya di daerah terpencil atau sektor informal.

Indonesia punya tantangan geografis besar.

Sistem yang bekerja di Jakarta belum tentu bekerja di NTT.

Model harus diuji pada kondisi coverage berbeda.

Jangan menganggap absence of data sebagai evidence of absence.

Proxy bisa menyesatkan

Karena sulit mengukur kesejahteraan langsung, sistem bisa memakai proxy.

Kepemilikan kendaraan. Konsumsi listrik. Lokasi. Jenis rumah. Transaksi. Aset.

Proxy useful.

Tapi proxy tidak selalu cerita penuh.

Orang punya motor bukan berarti kaya.

Motor bisa alat mencari nafkah.

Rumah terlihat bagus bisa warisan tetapi penghuninya tidak punya income.

Listrik tinggi bisa karena banyak anggota keluarga.

Lokasi urban mahal tidak berarti semua warga sejahtera.

AI bisa menemukan korelasi.

Kebijakan butuh konteks.

Kalau korelasi langsung diubah jadi keputusan, kesalahan struktural terjadi.

Itulah kenapa human validation masih penting.

Model membantu screening.

Petugas lokal membantu memahami realitas.

Keduanya juga punya bias, jadi sistem perlu cross-check.

AI bisa meningkatkan bansos kalau diposisikan benar

Tulisan ini bukan argumen anti-AI.

Justru bansos punya banyak pekerjaan yang cocok dibantu machine learning.

Mendeteksi data duplikat. Mencari anomaly. Menyocokkan record. Membantu pemutakhiran. Memprediksi area yang perlu verifikasi. Membantu petugas memprioritaskan kunjungan.

Masalahnya ketika model berubah dari alat bantu menjadi gerbang tunggal.

“Skor di bawah 0,4 otomatis tidak menerima.”

Decision rule semacam itu harus punya scrutiny tinggi.

Apa dasar threshold? Berapa error? Siapa paling terdampak? Bisa banding?

Sistem yang lebih aman memakai AI sebagai decision support dengan jalur manusia untuk kasus ambiguous.

Tidak semua kasus butuh review manual.

Tapi uncertainty harus diarahkan ke review, bukan dipaksa menjadi keputusan.

Warga harus bisa melihat status dan mengoreksi

Bansos punya satu prinsip sederhana: orang perlu tahu kenapa mereka tidak menerima.

Tidak harus diberikan formula model.

Tapi ada alasan operasional.

Data belum lengkap. Tidak memenuhi kriteria program. Status tertentu belum update.

Lalu harus ada jalur: koreksi, usul, sanggah, pengaduan.

Indonesia sendiri selama ini sudah mengenal mekanisme usul dan sanggah dalam ekosistem data bantuan sosial.

Kalau AI ditambahkan ke proses, mekanisme tersebut justru perlu diperkuat.

Jangan membuat automated scoring sebagai lapisan baru yang tidak bisa disentuh warga.

Kalau sistem salah, manusia harus bisa memperbaiki.

Dan koreksi tidak boleh berhenti pada satu kasus.

Kalau kesalahan berasal dari model, kasus serupa perlu diperiksa.

Satu komplain bisa jadi sinyal incident skala besar.

Audit harus fokus pada exclusion error

Instansi mungkin bangga: “akurasi 97 persen.”

Tanya lagi.

Dari orang yang seharusnya menerima, berapa persen terlewat?

Ini metrik yang lebih relevan.

Sensitivity. Recall. False negative rate.

Bahasa statistiknya teknis.

Maknanya sederhana: berapa orang yang butuh bantuan tetapi sistem gagal mengenali.

Kalau angkanya tinggi pada satu daerah, investigate.

Kalau tinggi pada pekerja informal, investigate.

Kalau tinggi pada keluarga dengan data administratif tidak lengkap, investigate.

Average nasional bisa menutupi ketimpangan.

Fairness audit perlu segmentasi.

Tentu tetap menghormati privacy.

Jangan mengumpulkan atribut sensitif tanpa dasar.

Tetapi instansi perlu metode untuk mengetahui apakah sistem menghasilkan harm yang tidak proporsional.

Data minimization tetap penting

Ada godaan berpikir: semakin banyak data, semakin akurat AI.

Belum tentu.

Dan bansos menyentuh informasi sensitif.

Pendapatan. Keluarga. Kesehatan. Alamat. Kondisi rumah.

Mengumpulkan data sebanyak mungkin meningkatkan privacy risk.

Pertanyaannya: data apa yang benar-benar diperlukan?

Kalau variabel tidak meningkatkan keputusan secara bermakna, ngapain dikumpulkan?

Data minimization mengurangi attack surface.

Juga mengurangi risiko function creep.

Data yang awalnya untuk bansos jangan otomatis dipakai untuk tujuan lain.

AI memudahkan cross-analysis.

Governance harus menjaga purpose limitation.

Vendor tidak boleh memiliki logika kebijakan

Kalau sistem bansos dibangun vendor, kebijakan tetap milik pemerintah.

Vendor boleh membuat model.

Tapi threshold eligibility, definisi prioritas, dan trade-off fairness adalah keputusan publik.

Jangan diserahkan diam-diam ke parameter teknis.

Misalnya vendor memilih threshold karena menghasilkan accuracy tertinggi.

Padahal kebijakan mungkin ingin meminimalkan false negative meskipun false positive naik.

Itu bukan keputusan engineer.

Itu policy choice.

Harus ada pejabat yang bertanggung jawab.

Dokumentasi harus menjelaskan kenapa threshold dipilih.

AI membuat keputusan kebijakan bisa bersembunyi di konfigurasi.

Audit harus menariknya keluar.

Petugas lapangan tidak boleh dianggap penghambat

Ada narasi teknologi bahwa manusia lokal bikin data subjektif.

Kadang benar.

Ada bias. Ada nepotisme. Ada error.

Tapi petugas lapangan juga punya context yang model tidak punya.

Mereka tahu rumah yang terlihat bagus sebenarnya ditempati beberapa keluarga.

Tahu warga baru kena PHK.

Tahu data kematian belum update.

Solusi bukan memilih manusia atau AI.

Buat checks and balances.

AI menandai anomaly. Petugas verifikasi. Warga bisa sanggah. Audit memeriksa pola.

Sistem menjadi lebih kuat karena sumber evidence beragam.

Bukan karena satu sumber dianggap sempurna.

Error harus dipulihkan cepat

Kalau sistem salah menolak penerima, koreksi enam bulan kemudian mungkin terlalu terlambat.

Remediation time penting.

Berapa lama dari komplain ke review? Apakah bantuan bisa dipulihkan? Apakah ada pembayaran retroaktif jika aturan memungkinkan? Apakah kasus serupa otomatis diperiksa?

Governance sering fokus pada prevention.

Recovery sama penting.

Tidak ada model dengan zero error.

Pertanyaannya bagaimana organisasi merespons error.

Untuk program sosial, speed of correction adalah metric fairness.

Data yang salah bisa diwariskan lintas sistem

Ketika pemerintah makin terintegrasi, satu record bisa digunakan banyak program.

Bagus untuk efisiensi.

Berbahaya kalau salah.

Alamat salah di satu master data bisa mengalir. Status ekonomi salah bisa dipakai banyak layanan.

AI mempercepat propagation.

Maka setiap master data perlu provenance.

Dari mana informasi ini? Kapan update? Siapa yang mengubah? Confidence berapa?

Kalau data disputed, downstream system harus tahu.

Jangan memperlakukan semua field sebagai kebenaran absolut.

Data juga punya uncertainty.

Bansos tidak boleh menjadi eksperimen black box

Kalau model dipakai untuk population scale, publik berhak tahu secara proporsional.

Tidak perlu membuka source code.

Tapi pemerintah bisa menjelaskan: fungsi AI, data category, role manusia, mekanisme koreksi, audit, dan safeguard.

Untuk sistem high impact, independent evaluation juga layak.

Peneliti bisa menguji fairness dengan data yang aman.

Masyarakat sipil bisa memberi feedback.

Transparansi mengurangi risiko keputusan penting tersembunyi di vendor contract.

Kita harus ingat tujuan bansos

Tujuannya bukan membuat dataset paling rapi.

Bukan juga membuat dashboard paling canggih.

Tujuannya membantu manusia yang membutuhkan.

AI hanya alat.

Kalau model meningkatkan ketepatan sasaran, bagus.

Kalau mengurangi fraud, bagus.

Kalau mempercepat proses, bagus.

Tapi kalau demi efisiensi sistem menjadi terlalu sulit dikoreksi, kita kehilangan tujuan awal.

Dalam program sosial, error bukan sekadar angka.

Setiap false negative punya nama.

Punya keluarga. Punya kebutuhan. Punya konsekuensi.

Itulah kenapa satu cell yang salah bisa menjadi kesalahan hidup.

Dan itulah kenapa AI untuk bantuan sosial harus dibangun dengan satu asumsi dasar:

data bisa salah.

Ada satu hal lagi yang perlu dijaga: jangan membuat warga harus memahami algoritma untuk mendapatkan haknya. Proses koreksi harus tetap bisa dilakukan oleh orang yang tidak punya smartphone mahal, tidak terbiasa aplikasi, atau tinggal jauh dari pusat layanan. Kalau seluruh appeal dipindahkan ke kanal digital, digital divide justru bisa menjadi filter baru.

Mekanisme offline, bantuan petugas, dan bahasa yang mudah dipahami tetap penting. AI boleh membuat administrasi lebih canggih, tetapi akses warga jangan ikut menjadi lebih ribet.

Kalau sistem menerima asumsi itu sejak awal, ia akan punya koreksi, appeal, human review, audit, dan recovery.

Kalau tidak, teknologi yang dibuat untuk membantu bisa berubah menjadi mesin yang mempercepat ketidakadilan.