AI di Program Pemerintah: Efisiensi Besar, Risiko Akuntabilitas Juga Besar

Ada banyak bagian pemerintahan yang secara teori cocok banget dibantu AI.

Ribuan dokumen masuk. Aduan warga. Data bantuan. Perizinan. Laporan daerah. Fraud detection. Analisis kebijakan. Pencarian regulasi. Pelayanan publik.

Kalau semuanya dilakukan manual, lambat.

Kalau sebagian bisa dibantu AI, potensi efisiensinya besar.

Pada 2026, pemerintah Indonesia juga makin terbuka membahas penggunaan AI dalam pemerintahan. Komdigi menyebut agentic AI sebagai alat yang berpotensi membantu kebijakan publik lebih presisi dan berbasis data. Pemerintah juga menempatkan sektor pemerintahan sebagai salah satu area penting dalam peningkatan kapabilitas AI nasional.

Kedengarannya promising.

Tapi pemerintah tidak sama dengan perusahaan biasa.

Kalau rekomendasi Netflix salah, lo tinggal nggak nonton.

Kalau sistem pemerintah salah memprioritaskan layanan, dampaknya bisa menyentuh hak seseorang.

Itu sebabnya efisiensi dan akuntabilitas harus naik bareng.

AI bisa memangkas pekerjaan administratif

Coba bayangin satu instansi menerima 50.000 dokumen.

Pegawai harus: membaca, mengklasifikasikan, mencari duplikasi, menandai yang kurang, memasukkan data.

AI bisa membantu banyak tahap.

OCR membaca scan. Model mengekstrak field. Classifier menentukan kategori. Agent menyiapkan draft. Sistem mencari dokumen terkait.

Pegawai fokus ke exception.

Kalau desainnya benar, waktu layanan turun.

Ini bukan fantasi.

Teknologi untuk dokumen automation sudah ada.

Masalahnya bukan “bisa atau tidak”.

Masalahnya “boleh seberapa jauh”.

Ekstraksi data adalah satu hal.

Menentukan warga layak menerima layanan adalah hal lain.

Semakin dekat AI ke keputusan substantif, semakin tinggi kebutuhan oversight.

Pemerintah punya power yang tidak dimiliki aplikasi biasa

Negara bisa memberi atau menolak izin. Menentukan pajak. Menyalurkan bantuan. Memberi sanksi. Mengatur akses layanan. Mengambil keputusan administratif.

Karena itu penggunaan AI oleh pemerintah harus punya standar lebih tinggi.

Bukan karena pemerintah dilarang berinovasi.

Justru karena konsekuensinya besar.

Kalau aplikasi swasta salah rekomendasi restoran, dampaknya kecil.

Kalau sistem pemerintah salah menganggap seseorang tidak memenuhi syarat program, orang bisa kehilangan manfaat penting.

Kalau AI membantu menentukan prioritas inspeksi, bisnis tertentu bisa lebih sering diperiksa.

Kalau sistem menandai seseorang sebagai risiko fraud, reputasinya bisa terdampak di dalam proses.

Semua keputusan ini membutuhkan due process.

“AI bilang begitu” bukan alasan administratif.

Harus tetap ada pejabat yang bertanggung jawab

Ini prinsip paling penting.

AI boleh membantu.

Tapi keputusan pemerintah harus tetap punya alamat tanggung jawab.

Warga harus tahu instansi mana yang mengambil keputusan.

Bukan model apa.

Kalau keputusan salah: siapa yang mengoreksi? siapa yang menerima keberatan? siapa yang menjelaskan dasar keputusan?

UU Administrasi Pemerintahan di Indonesia sudah meletakkan keputusan dan tindakan pada badan atau pejabat pemerintahan.

Teknologi tidak menghapus struktur itu.

Kalau AI digunakan sebagai alat bantu, pejabat tidak boleh melempar tanggung jawab ke vendor.

Bayangin seseorang datang ke kantor pelayanan di Jakarta dan bertanya kenapa permohonannya ditolak.

Jawaban: “sistem yang menentukan.”

Itu tidak cukup.

Harus ada dasar.

Data apa yang kurang. Aturan apa. Apakah ada kesalahan input. Bagaimana memperbaiki.

AI harus masuk ke struktur administratif, bukan menggantikannya dengan black box.

Efisiensi bisa menciptakan automation bias

Manusia punya kecenderungan mempercayai sistem komputer.

Kalau dashboard kasih skor merah, pegawai menganggap risiko tinggi.

Padahal model bisa salah.

Ini disebut automation bias.

Semakin sering sistem benar, semakin jarang manusia mempertanyakan.

Masalahnya, satu error bisa besar.

Bayangin model 98 persen akurat.

Sounds great.

Kalau dipakai ke satu juta kasus, 2 persen berarti 20.000 kasus.

Tidak semua error berdampak sama.

Kalau error cuma salah kategori dokumen, mudah diperbaiki.

Kalau error menyebabkan orang tidak menerima bantuan, serius.

Pemerintah tidak boleh hanya melihat accuracy rata-rata.

Harus lihat failure distribution.

Siapa yang paling sering salah? Daerah mana? Kelompok bahasa apa? Dokumen tipe apa? Apakah ada bias terhadap kelompok tertentu?

Fairness harus diuji.

Data pemerintah punya masalah kualitas

AI tidak memperbaiki data buruk secara ajaib.

Indonesia masih menghadapi data antarinstansi yang tidak selalu terintegrasi.

Komdigi pada Juni 2026 menyorot masalah warga yang sering diminta memberikan ulang data karena sistem pemerintah belum bekerja dengan prinsip once only secara penuh.

Kalau dataset tidak sinkron, AI bisa membuat keputusan berdasarkan informasi yang outdated.

Nama beda ejaan. Alamat lama. Status pekerjaan berubah. Data keluarga tidak update.

Model kemudian menghasilkan skor atau rekomendasi.

Masalahnya bukan model.

Masalahnya input.

Tapi warga tetap kena dampaknya.

Karena itu setiap program AI pemerintah harus punya data quality process.

Sumber data jelas. Update frequency. Correction mechanism. Ownership.

Dan paling penting: warga punya cara memperbaiki data.

AI pemerintah butuh audit trail

Setiap keputusan material harus bisa dilacak.

Sistem menerima data apa? Model versi berapa? Rule apa? Skor berapa? Human reviewer siapa? Keputusan final apa?

Bukan berarti semua raw data harus dibuka ke publik.

Ada privacy.

Tapi instansi sendiri harus punya trace.

Kalau ada sengketa, mereka bisa investigasi.

Tanpa log, incident berubah jadi misteri.

Vendor bilang model benar. Instansi bilang data benar. Warga bilang keputusan salah.

Tidak ada evidence.

Audit trail melindungi semua pihak.

Warga. Pejabat. Pemerintah. Bahkan vendor.

Karena fakta bisa diperiksa.

Model versioning juga penting.

Kalau model di-update bulan Juni, keputusan Januari mungkin dibuat dengan sistem berbeda.

Tanpa versioning, evaluasi tidak valid.

Transparansi bukan berarti publik harus paham machine learning

Warga tidak perlu diberi 300 halaman model card setiap kali mengurus layanan.

Transparansi harus usable.

Misalnya: AI digunakan untuk membantu proses tertentu. AI bukan satu-satunya penentu. Faktor utama yang dipertimbangkan adalah A, B, C. Jika data salah, koreksi di sini. Jika tidak setuju, keberatan melalui jalur ini.

Itu lebih useful daripada jargon.

Untuk peneliti dan auditor, level detail bisa lebih tinggi.

Mereka mungkin membutuhkan: dataset description, model performance, bias testing, risk assessment.

Layered transparency.

Publik butuh informasi yang bisa dipakai. Regulator butuh informasi yang bisa diuji.

Jangan membuat “transparan” sekadar halaman privacy policy 12.000 kata.

Vendor lock-in adalah risiko negara

Kalau instansi memakai AI vendor global, ada pertanyaan jangka panjang.

Apa yang terjadi kalau harga naik? Kalau layanan dihentikan? Kalau model berubah? Kalau data tidak bisa diexport? Kalau policy vendor berubah?

Pemerintah menjalankan layanan yang harus terus ada.

Tidak bisa bergantung total pada satu sistem proprietary tanpa exit plan.

Kontrak AI pemerintah perlu memikirkan: portability, data ownership, retention, subprocessor, service level, security incident, model changes, dan termination.

Kalau tidak, negara bisa terjebak.

Sistem makin penting. Vendor makin sulit diganti.

Procurement murah di awal bisa mahal di belakang.

Human oversight harus benar-benar manusia

Ada sistem yang secara formal punya human in the loop.

Tapi praktiknya pegawai hanya klik approve.

Kalau 5.000 kasus masuk sehari dan satu orang harus review, approval jadi rubber stamp.

Ini pseudo oversight.

Desain harus memastikan manusia punya: waktu, informasi, wewenang, dan skill untuk membantah sistem.

Kalau reviewer tidak bisa override, bukan oversight.

Kalau tidak tahu model bisa salah, bukan oversight.

Kalau tidak melihat evidence, juga bukan.

Human review harus ditempatkan di kasus yang paling penting.

Sistem low risk bisa otomatis.

Kasus high risk atau uncertainty tinggi masuk review.

Exception-based supervision lebih realistis.

AI juga bisa membantu mendeteksi korupsi dan fraud, tapi hati-hati

Use case ini menarik.

AI bisa mencari pola aneh: transaksi, pengadaan, klaim, hubungan data.

Potensinya besar.

Tapi flag bukan bukti.

Sistem bisa menandai sesuatu karena pattern statistik.

Investigasi tetap perlu.

Kalau seseorang langsung dihukum hanya karena model memberi skor tinggi, itu problem.

AI sebaiknya menjadi detection tool.

Bukan hakim.

Semakin besar tindakan setelah flag, semakin banyak verifikasi diperlukan.

Threshold juga harus diuji.

Terlalu ketat: banyak fraud lolos.

Terlalu longgar: banyak innocent people kena pemeriksaan.

Trade-off harus eksplisit.

Incident AI pemerintah perlu dilaporkan

Kalau sistem salah besar, jangan diam-diam diperbaiki.

Organisasi perlu incident process.

Apa yang dianggap incident? Siapa diberi tahu? Apakah sistem dihentikan? Apakah keputusan lama diperiksa ulang? Apakah warga terdampak dihubungi?

Indonesia ke depan bahkan layak punya database incident AI sektor publik.

Bukan untuk mempermalukan instansi.

Untuk belajar.

Kalau lima daerah mengalami masalah yang sama dari vendor atau model serupa, pemerintah pusat perlu tahu.

Safety berkembang lewat pembelajaran dari kegagalan.

Aviation kuat karena incident dianalisis.

Cybersecurity punya incident reporting.

AI pemerintah juga butuh budaya serupa.

Efisiensi jangan diukur cuma dari jumlah pegawai

Ini penting secara politik.

Kalau AI didefinisikan sebagai cara “mengurangi orang”, implementasinya akan defensif.

Pegawai takut. Serikat atau organisasi internal menolak. Knowledge hilang.

Ukuran efisiensi lebih sehat: waktu layanan turun, error turun, backlog turun, biaya per layanan turun, kepuasan naik.

Pegawai bisa dialihkan dari pekerjaan repetitif ke kasus kompleks.

AI seharusnya mengurangi kerja mekanis.

Bukan menghilangkan manusia dari keputusan yang perlu empathy dan judgment.

Pemerintah daerah perlu standar bersama

Kalau setiap pemda membeli AI sendiri, risiko fragmentasi besar.

Satu kota punya governance bagus. Daerah lain membeli chatbot dari vendor tanpa audit.

Pemerintah pusat sebaiknya menyediakan baseline.

Checklist procurement. Security requirement. Data policy. Model evaluation. Incident standard. Template risk assessment.

Tidak semua daerah punya tim AI.

Shared guidance mengurangi ketimpangan kapasitas.

AI pemerintah yang baik mungkin terasa boring

Tidak harus punya avatar canggih.

Tidak harus ngomong seperti manusia.

Kadang nilai terbesar justru: form diproses lebih cepat, dokumen tidak hilang, warga tidak diminta data berulang, aduan masuk ke unit benar, pegawai mudah mencari aturan.

Ini use case yang tidak viral.

Tapi manfaatnya nyata.

Pemerintah tidak perlu mengejar demo.

Pemerintah perlu mengejar public value.

Dan public value punya satu syarat: kalau sistem salah, masyarakat tetap tahu siapa yang bertanggung jawab.

AI bisa membuat negara lebih cepat.

Tapi kecepatan tanpa accountability hanya membuat keputusan salah terjadi lebih cepat juga.

Jadi pertanyaan setiap kali pemerintah ingin memasang AI seharusnya bukan: “berapa banyak proses yang bisa diotomatisasi?”

Mulai dengan: “kalau sistem ini salah terhadap seorang warga, bagaimana warga itu memperbaiki keadaan?”

Kalau jawabannya jelas, baru kita bicara scale.