Lo mungkin nonton dua jam lalu bilang, “Ya udah, zonk.”

Kalau AI salah membantu menentukan siapa yang berhak menerima bantuan sosial, siapa yang masuk daftar risiko, siapa yang lolos seleksi sekolah, atau bagaimana sebuah layanan kesehatan diprioritaskan, ceritanya beda.

Di situ AI bukan lagi fitur produktivitas.

AI masuk ke wilayah kekuasaan publik.

Dan makin banyak negara mulai sadar bahwa aturan untuk AI layanan publik harus lebih ketat dibanding aturan untuk chatbot biasa.

Ini salah satu perubahan penting di 2026.

Pemerintah tidak lagi sekadar bertanya, “Bisa pakai AI buat apa?”

Pertanyaannya mulai berubah menjadi:

Siapa yang bertanggung jawab?

Bagaimana warga bisa menggugat keputusan?

Apa datanya akurat?

Apakah sistem bias?

Apakah manusia masih punya kontrol?

Apakah vendor bisa menjelaskan modelnya?

Apa yang terjadi kalau AI salah?

Pertanyaan seperti ini terdengar lambat dibanding hype AI.

Tapi kalau AI masuk negara, lambat kadang memang diperlukan.

Negara punya kekuasaan yang perusahaan biasa tidak punya

Perusahaan bisa menolak aplikasi kredit.

Pemerintah bisa menolak izin.

Perusahaan bisa menurunkan ranking produk.

Pemerintah bisa menentukan eligibility layanan.

Perusahaan bisa menutup akun.

Pemerintah bisa mengambil keputusan yang memengaruhi hak warga.

Perbedaan power ini penting.

Ketika negara memakai AI, warga sering tidak punya pilihan provider.

Kalau lo nggak suka chatbot sebuah perusahaan, tinggal pakai yang lain.

Kalau sistem pemerintah yang menilai dokumen lo pakai AI, lo tidak bisa pindah kewarganegaraan setiap kali disagrees dengan model.

Makanya public sector AI membutuhkan accountability lebih kuat.

Eropa mengambil pendekatan formal.

Dalam AI Act, badan publik dan pihak tertentu yang menyediakan layanan publik bisa diwajibkan melakukan fundamental rights impact assessment sebelum memakai high-risk AI pada kategori tertentu.

Artinya sebelum sistem digunakan, organisasi harus menilai dampaknya terhadap hak orang yang terkena.

Siapa kelompok yang terdampak.

Risiko apa yang muncul.

Bagaimana human oversight dilakukan.

Apa mitigation-nya.

Ini menunjukkan perubahan penting.

AI governance mulai masuk sebelum deployment.

Bukan menunggu skandal dulu.

Layanan publik adalah tempat bias bisa menjadi sistemik

Salah satu problem paling serius bukan error individual.

Masalahnya ketika error diulang ribuan kali.

Misalnya sebuah model punya bias kecil terhadap kelompok tertentu.

Kalau dipakai sekali, dampaknya mungkin terbatas.

Kalau dipakai untuk memproses ratusan ribu aplikasi, bias kecil bisa menjadi kebijakan de facto.

Ini alasan public-sector AI tidak bisa hanya dinilai dari average accuracy.

Model bisa punya akurasi 95 persen.

Kedengarannya bagus.

Tapi siapa yang masuk 5 persen salah?

Apakah error tersebar random?

Atau terkonsentrasi pada wilayah, gender, kelompok ekonomi, bahasa, atau jenis dokumen tertentu?

Jakarta sendiri penuh variasi administrasi.

Alamat bisa berbeda format.

Nama jalan berubah.

Dokumen lama dan baru berbeda.

Cara orang menulis pekerjaan berbeda.

Bahasa formal dan informal campur.

Kalau model dilatih dari dataset yang terlalu bersih, dunia nyata akan terasa jauh lebih berantakan.

Di pelayanan publik, edge case bukan minor issue.

Edge case adalah warga.

Human oversight harus benar-benar punya kuasa

Banyak organisasi suka menulis kalimat ini:

“Keputusan akhir tetap di tangan manusia.”

Kedengarannya aman.

Belum tentu.

Kalau pegawai menerima 500 rekomendasi AI per hari, apakah dia benar-benar menilai satu-satu?

Atau akhirnya cuma klik approve karena sistem jarang kelihatan salah?

Fenomena ini dikenal sebagai automation bias.

Manusia cenderung percaya output sistem, terutama kalau sistem terlihat pintar dan bekerja lebih cepat.

Human-in-the-loop bisa menjadi formalitas.

Makanya governance harus bertanya lebih detail.

Apakah manusia punya waktu untuk review?

Apakah mereka mendapat informasi kenapa model memberi rekomendasi?

Apakah ada cara override?

Apakah override dicatat?

Apakah pegawai dihukum kalau terlalu sering melawan AI?

Apakah KPI mendorong mereka mengejar kecepatan sehingga review jadi asal?

Desain organisasi sama pentingnya dengan desain model.

Sistem AI bisa technically safe tetapi operationally dangerous kalau manusia yang mengawasi tidak punya waktu atau authority.

Public procurement juga harus berubah

Pemerintah banyak membeli teknologi dari vendor.

Itu normal.

Tidak semua instansi perlu membangun model sendiri.

Tapi procurement AI berbeda dari procurement software biasa.

Kalau membeli aplikasi arsip, requirement-nya relatif stabil.

Kalau membeli AI, model bisa berubah setelah kontrak ditandatangani.

Vendor bisa mengganti model provider.

Model bisa di-update.

Pricing berubah.

Data policy berubah.

Subprocessor bertambah.

Performance berubah.

Kalau procurement cuma melihat demo awal, negara bisa terkunci pada sistem yang sulit diaudit.

Kontrak AI perlu menjawab hal-hal baru.

Apakah model version bisa dicatat?

Apakah data pemerintah dipakai untuk training?

Bagaimana retention?

Siapa subprocessor?

Apakah log bisa diexport?

Apakah pemerintah punya hak melakukan audit?

Kalau model berubah signifikan, apakah harus diuji ulang?

Bagaimana proses incident reporting?

Apa exit plan?

Apakah data dan workflow bisa dipindahkan ke vendor lain?

Pertanyaan ini mungkin tidak terlihat menarik di acara peluncuran.

Tapi justru di situlah kedaulatan operasional berada.

Eropa mulai menghubungkan deployment dengan transparansi

Pada Juli 2026, European Commission menerbitkan panduan transparency obligations yang mulai berlaku pada 2 Agustus.

Di sisi public authority, aturan high-risk juga menempatkan kewajiban tambahan seperti registrasi dalam database tertentu, human oversight, monitoring, dan fundamental rights assessment dalam konteks yang relevan.

Detail timeline high-risk memang bertahap sampai 2027 dan 2028 untuk kategori tertentu.

Tapi arah regulasinya sudah sangat jelas.

Public-sector AI harus bisa dilihat.

Dijelaskan.

Diawasi.

Bukan black box yang dipasang pemerintah lalu warga diminta percaya.

Prinsip ini penting bahkan untuk negara yang tidak mengikuti model Eropa.

Pemerintah seharusnya punya standar transparansi lebih tinggi karena ia memakai mandat publik.

Kalau warga terkena dampak keputusan, minimal mereka perlu tahu kapan AI berperan dan bagaimana meminta review.

Amerika bergerak melalui standar dan evaluasi

Amerika mengambil jalur berbeda.

Pendekatannya lebih fragmented.

Ada federal guidance.

Standar NIST.

Procurement rule.

Agency policy.

State law.

Debat politiknya juga lebih keras soal seberapa jauh AI harus diatur.

Pada Agustus 2026, NIST kembali mendorong standardisasi evaluasi AI, termasuk penggunaan pemerintah dan kontraktor.

Fokus seperti ini penting.

Kalau setiap lembaga membuat benchmark sendiri, sulit membandingkan keamanan dan performance.

Standar evaluation bisa menjadi common language.

Apakah sistem sudah diuji?

Untuk risk apa?

Dalam environment apa?

Dengan metric apa?

Apa limit-nya?

Pemerintah butuh bahasa evaluasi yang lebih disiplin dari sekadar “vendor bilang model ini akurat”.

Karena demo selalu bisa dipilih.

Production tidak.

Indonesia juga mulai masuk fase governance yang lebih konkret

Indonesia belum punya AI Act seperti Uni Eropa.

Tapi arah regulasinya mulai makin jelas.

Pada 28 Juli 2026, Komdigi menyatakan rencana Peraturan Presiden tentang AI akan menjadi langkah awal sebelum penyusunan Undang-Undang AI yang lebih komprehensif.

Ini penting karena Indonesia mulai berpindah dari ethical guideline menuju struktur hukum yang lebih formal.

Public service seharusnya menjadi salah satu area paling serius.

Karena pemerintah punya data besar.

Kependudukan.

Pajak.

Bantuan sosial.

Pendidikan.

Kesehatan.

Perizinan.

Pengadaan.

Pengadilan.

Semua adalah area di mana AI bisa meningkatkan kecepatan, tapi juga memperbesar dampak kalau desainnya salah.

Kita tidak perlu takut memakai AI.

Yang perlu ditakuti adalah memakai AI tanpa tahu siapa yang accountable.

AI bisa membantu birokrasi yang selama ini overload

Jangan lihat regulation sebagai alasan supaya pemerintah tidak berinovasi.

AI punya manfaat besar buat public sector.

Dokumen bisa diringkas.

Surat masuk diklasifikasi.

Draft regulasi dibandingkan.

Fraud pattern dianalisis.

Call center warga dibantu.

Pegawai bisa mencari informasi internal lebih cepat.

Data publik bisa dijelaskan dalam bahasa sederhana.

Form bisa dipandu.

Terjemahan bisa dipercepat.

Antrian administrasi bisa dikurangi.

Di kantor pemerintah yang pegawainya harus membaca dokumen ratusan halaman, AI bisa sangat membantu.

Masalahnya adalah kita perlu membedakan assistive AI dan decision AI.

Assistive AI membantu manusia bekerja.

Decision AI ikut menentukan outcome bagi warga.

Level kedua perlu governance jauh lebih ketat.

Kalau AI merangkum surat, risk relatif rendah.

Kalau AI menentukan surat itu “tidak prioritas” lalu tidak dibaca manusia selama sebulan, efeknya naik.

Workflow menentukan risk.

Bukan nama tool.

Warga perlu punya jalur banding yang manusiawi

Ini prinsip yang sering terlupakan.

Kalau AI ikut memengaruhi layanan publik, warga harus punya cara membantah hasil.

Bukan disuruh debat dengan chatbot.

Harus ada manusia.

Misalnya sistem salah membaca identitas.

Data lama.

Alamat berubah.

Nama mirip.

Dokumen tidak terdeteksi.

Warga perlu jalur koreksi.

Kalau seluruh proses otomatis dan tidak ada escalation, efisiensi berubah menjadi tembok.

Ini problem paling berbahaya dari digital government.

Sistem jadi cepat buat mayoritas.

Tapi orang yang tidak cocok dengan template makin susah masuk.

AI berpotensi memperkuat itu.

Karena model pintar membuat sistem terlihat sangat confidence.

Padahal confidence bukan kebenaran.

Public service yang baik harus dirancang untuk exception.

Bukan cuma average citizen.

Pengadaan murah bisa jadi mahal kalau salah sistem

Pemerintah juga perlu menghindari jebakan harga.

Vendor AI bisa menawarkan pilot murah.

Lalu setelah data masuk, integration selesai, dan pegawai tergantung, switching cost naik.

Harga kemudian naik.

Atau model provider berubah.

Atau fitur critical dipindah ke paket premium.

Kalau kontrak tidak punya portability, pemerintah kehilangan leverage.

Ini bukan sekadar vendor management.

Ini public infrastructure governance.

AI yang masuk workflow negara bisa hidup bertahun-tahun.

Lebih lama dari satu kabinet.

Maka architecture harus tahan perubahan politik, vendor, dan teknologi.

Open standard membantu.

Data portability membantu.

Independent evaluation membantu.

Dokumentasi membantu.

Modular architecture membantu.

Semua terdengar boring.

Justru itu yang membuat sistem publik bisa bertahan.

Kita akan melihat lebih banyak register AI pemerintah

Salah satu tren yang masuk akal adalah public inventory.

Instansi mempublikasikan sistem AI apa yang dipakai.

Tujuannya apa.

Vendor siapa.

Data apa yang digunakan.

Risk level.

Apakah keputusan otomatis.

Siapa owner.

Bagaimana warga mengajukan keluhan.

Register seperti ini meningkatkan accountability.

Tidak semua detail harus public.

Security-sensitive system memang punya batas.

Tapi prinsip default transparency masuk akal.

Kalau pemerintah memakai algoritma untuk memengaruhi warga, warga punya alasan kuat untuk tahu algoritma tersebut ada.

Ini bukan anti-innovation.

Justru trust bisa mempercepat adoption.

Warga lebih nyaman memakai layanan AI kalau jelas perannya.

Negara sedang belajar bahwa AI adalah kekuasaan administratif baru

Hal paling penting dari 2026 bukan jumlah chatbot pemerintah.

Yang berubah adalah kesadaran bahwa AI bisa menjadi bagian dari mesin administrasi negara.

Kalau dipasang dengan baik, layanan lebih cepat.

Pegawai terbantu.

Fraud lebih mudah ditemukan.

Dokumen lebih gampang diproses.

Warga mendapat informasi lebih cepat.

Kalau dipasang buruk, kesalahan bisa diotomasi dalam skala nasional.

Itulah kenapa negara mulai lebih serius mengatur.

Bukan karena AI harus dihentikan.

Karena ketika AI masuk layanan publik, yang dipertaruhkan bukan hanya conversion rate atau customer satisfaction.

Yang dipertaruhkan adalah hak orang.

Akses layanan.

Perlakuan yang adil.

Kemampuan menggugat keputusan.

Dan kepercayaan terhadap institusi.

Public-sector AI yang matang bukan sistem yang menghilangkan manusia.

Ia sistem yang memakai mesin untuk mempercepat pekerjaan, sambil memastikan manusia tetap punya tanggung jawab ketika keputusan menyentuh kehidupan warga.

Kalau garis itu bisa dijaga, AI bisa membuat negara lebih responsif.

Kalau tidak, kita hanya memindahkan birokrasi lama ke black box yang jauh lebih cepat.