Setiap kali negara mulai bicara regulasi AI, reaksi publik biasanya kebagi dua.
Yang satu optimistis: akhirnya AI diatur. Yang satu skeptis: paling cuma dokumen lagi. Dua-duanya masuk akal.
Indonesia memang sudah waktunya punya tata kelola AI yang lebih jelas. AI tidak lagi hidup di ruang eksperimen. Ia mulai masuk ke kantor, sekolah, media, layanan publik, fintech, kesehatan, rekrutmen, customer service, platform digital, sampai cara orang mencari informasi. Kalau negara menunggu terlalu lama, teknologi bergerak duluan, risiko menyusul, lalu publik baru sadar setelah kerusakannya terjadi.
Tapi regulasi juga tidak otomatis menyelesaikan masalah.
Rencana Perpres AI bisa jadi titik balik untuk Indonesia. Tapi hanya kalau ia tidak berhenti sebagai dokumen formal yang rapi, dibacakan di forum, dikutip di presentasi, lalu hilang dalam implementasi.
Karena masalah AI governance bukan cuma punya aturan.
Masalahnya adalah apakah aturan itu bisa membuat AI yang dipakai di Indonesia menjadi lebih aman, transparan, bisa diaudit, bertanggung jawab, dan tetap memberi ruang inovasi.
Indonesia Sedang Masuk Fase AI yang Lebih Serius
Sampai Mei 2026, sinyalnya cukup jelas: pemerintah mulai menempatkan AI sebagai agenda strategis nasional. Komdigi menyebut Perpres AI sebagai fondasi tata kelola teknologi masa depan Indonesia, dengan pendekatan yang menyeimbangkan inovasi dan pengelolaan risiko.
JDIH Komdigi juga mencatat pembahasan Peta Jalan Kecerdasan Artifisial Indonesia 2026 sampai 2029 dalam rapat lintas kementerian. Dokumen itu ditargetkan menjadi pedoman bagi kementerian, lembaga, dan pemangku kepentingan dalam menyusun kebijakan serta program pengembangan AI Indonesia. Dalam dokumen telaah Komdigi, bahkan disebutkan adanya dua rancangan Perpres: RPerpres tentang Peta Jalan Kecerdasan Artifisial Nasional Tahun 2026 sampai 2029 dan RPerpres tentang Etika Kecerdasan Artifisial.
Itu bukan detail kecil.
Kalau benar berjalan, Indonesia tidak hanya bicara “pakai AI”, tapi mulai masuk ke fase “bagaimana AI harus diatur”. Dan fase ini jauh lebih sulit.
Di level teknologi, AI bisa bergerak cepat. Di level regulasi, negara harus lebih hati-hati. Terlalu lambat, risiko menumpuk. Terlalu kaku, inovasi bisa mati sebelum tumbuh.
Perpres AI Tidak Boleh Jadi Dokumen yang Hanya Bicara Prinsip
Banyak regulasi teknologi gagal bukan karena niatnya buruk, tapi karena terlalu umum.
Bahasanya bagus: etis, transparan, akuntabel, inklusif, human-centric, aman, dan inovatif. Semua benar. Tapi kalau berhenti di level prinsip, pelaku industri tetap bingung, publik tetap tidak terlindungi, dan pemerintah tetap kesulitan mengeksekusi.
Perpres AI harus menjawab pertanyaan yang lebih keras:
- Sistem AI seperti apa yang dianggap berisiko tinggi?
- Siapa yang wajib melakukan risk assessment?
- Bagaimana audit dilakukan sebelum AI dipakai di layanan publik?
- Bagaimana publik diberi tahu bahwa mereka sedang berinteraksi dengan AI?
- Data warga apa yang tidak boleh dipakai sembarangan?
- Siapa yang bertanggung jawab kalau AI memberi rekomendasi salah?
- Bagaimana mekanisme keberatan warga terhadap keputusan yang dibantu AI?
- Bagaimana negara mengatur vendor AI yang masuk ke sistem publik?
Kalau pertanyaan ini tidak dijawab, Perpres AI akan terlihat serius di atas kertas, tapi lemah di lapangan.
Di sinilah AI policy regulation harus dibaca sebagai sistem kerja, bukan sekadar bahasa hukum.
Etika AI Harus Turun ke Level Operasional
Indonesia sebenarnya sudah punya pembicaraan etika AI sebelum Perpres. Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial memberi prinsip awal seperti inklusivitas, keamanan, transparansi, kredibilitas, akuntabilitas, dan pelindungan data pribadi.
Masalahnya, prinsip etika tidak cukup kalau tidak diterjemahkan menjadi mekanisme operasional.
UNESCO lewat Recommendation on the Ethics of Artificial Intelligence menempatkan perlindungan hak asasi manusia dan martabat manusia sebagai fondasi etika AI. Rekomendasi itu juga menekankan transparency, fairness, dan human oversight.
Prinsip seperti ini penting. Tapi di Indonesia, pertanyaannya harus dibuat lebih konkret.
Kalau AI dipakai untuk seleksi bantuan sosial, siapa yang bisa melihat logika sistemnya? Kalau AI dipakai untuk screening rekrutmen, bagaimana bias gender, usia, universitas, dan lokasi dicek? Kalau AI dipakai untuk edukasi anak, bagaimana data anak dilindungi? Kalau AI dipakai oleh pemerintah daerah, standar minimalnya apa?
Etika AI tidak boleh berhenti sebagai kalimat yang terdengar bagus. Ia harus masuk ke SOP, procurement, audit, pelatihan, laporan risiko, dan mekanisme koreksi.
Perpres AI Harus Berani Mengatur Risiko, Bukan Cuma Mendorong Adopsi
Narasi adopsi AI biasanya lebih seksi: efisiensi, produktivitas, pertumbuhan ekonomi, layanan publik cepat, inovasi industri, talenta digital, investasi, dan daya saing.
Semua itu penting. Tapi regulasi AI yang matang tidak boleh hanya mendorong adopsi. Ia juga harus mengatur risiko.
NIST melalui AI Risk Management Framework menjelaskan bahwa risiko AI perlu dikelola melalui governance, mapping, measurement, dan management. Bahasa sederhananya: organisasi harus tahu AI dipakai untuk apa, risiko apa yang muncul, bagaimana mengukurnya, dan siapa yang mengendalikannya.
Indonesia butuh logika seperti ini.
AI untuk rekomendasi konten tidak sama risikonya dengan AI untuk kesehatan. AI untuk chatbot customer service tidak sama dengan AI untuk keputusan kredit. AI untuk merangkum dokumen internal tidak sama dengan AI untuk layanan publik. AI untuk kampanye marketing tidak sama dengan AI untuk anak dan pendidikan.
Kalau Perpres AI ingin efektif, ia harus punya pendekatan berbasis risiko. Bukan semua AI dipukul rata. Tapi juga bukan semua AI dibiarkan atas nama inovasi.
Masalah Terbesar Ada di Implementasi Lintas Sektor
AI governance tidak bisa dikerjakan satu kementerian saja.
AI menyentuh Komdigi, pendidikan, kesehatan, keuangan, ketenagakerjaan, hukum, pemerintahan daerah, perlindungan anak, data pribadi, keamanan siber, industri, perdagangan, dan riset. Kalau koordinasinya lemah, Perpres AI bisa menjadi payung yang bagus, tapi tiap sektor tetap jalan sendiri-sendiri.
Ini problem klasik regulasi digital Indonesia: isu lintas sektor, tapi eksekusi sering terfragmentasi.
Misalnya, AI di pendidikan butuh Kementerian Pendidikan, sekolah, kampus, guru, orang tua, platform edtech, dan regulator data. AI di kesehatan butuh rumah sakit, dokter, BPJS, regulator kesehatan, sistem rekam medis, dan otoritas data. AI di fintech butuh OJK, BI, Komdigi, pelaku industri, dan mekanisme perlindungan konsumen.
Kalau tidak ada pembagian mandat yang jelas, Perpres AI berisiko menjadi dokumen yang semua pihak setuju, tapi tidak ada pihak yang benar-benar merasa bertanggung jawab.
Data Governance Harus Jadi Tulang Punggung Perpres AI
AI governance tanpa data governance itu rapuh.
Model AI bisa tampak canggih, tapi kalau data yang dipakai buruk, bias, ilegal, tidak jelas izin, atau tidak mewakili konteks Indonesia, hasilnya tetap problematik.
Karena itu, data governance systems harus menjadi bagian inti dari Perpres AI. Bukan lampiran teknis.
Negara perlu tahu bagaimana data publik, data pribadi, data anak, data kesehatan, data pendidikan, dan data administratif boleh dipakai dalam sistem AI. Industri perlu tahu batas penggunaan data pelanggan. Sekolah perlu tahu data siswa tidak boleh menjadi bahan eksperimen tanpa perlindungan. Pemerintah daerah perlu tahu bahwa data warga bukan sekadar bahan dashboard.
Di era AI, data bukan cuma aset.
Data adalah sumber kuasa.
Dan setiap sumber kuasa perlu aturan.
Labeling Konten AI Perlu Diatur, Tapi Jangan Dianggap Obat Semua Penyakit
Salah satu isu yang pasti muncul dalam regulasi AI adalah labeling: apakah konten AI harus diberi label? Apakah deepfake harus diberi penanda? Apakah masyarakat harus tahu ketika berinteraksi dengan chatbot atau sistem otomatis?
Jawabannya: iya, transparansi penting.
Tapi labeling bukan solusi lengkap.
Label “dibuat dengan AI” tidak otomatis membuat konten aman. Label tidak menyelesaikan masalah data training. Label tidak memperbaiki bias. Label tidak menjamin output benar. Label tidak melindungi warga kalau sistem AI dipakai untuk mengambil keputusan yang tidak bisa mereka bantah.
Labeling harus menjadi bagian dari ekosistem yang lebih luas: audit, provenance, accountability, review manusia, mekanisme pengaduan, dan sanksi kalau sistem disalahgunakan.
Di sini information integrity jadi isu penting. AI membuat konten sintetis lebih mudah diproduksi. Kalau negara tidak punya strategi integritas informasi, ruang publik akan makin penuh konten yang terlihat kredibel tapi sulit diverifikasi.
Akuntabilitas Tidak Boleh Dilempar ke Mesin
Ini prinsip paling penting: AI tidak bisa dijadikan kambing hitam.
Kalau sistem AI salah memberi rekomendasi, yang bertanggung jawab bukan “AI-nya”. Harus ada manusia, lembaga, vendor, atau organisasi yang punya tanggung jawab jelas.
Kalau tidak, kita akan masuk ke era paling licin: keputusan dibuat oleh sistem, tapi tidak ada orang yang bisa dimintai jawaban.
Inilah alasan ethics and AI safety harus masuk ke tata kelola dari awal. Bukan setelah ada skandal.
AI dalam layanan publik harus bisa diaudit. AI dalam keputusan bisnis harus punya owner. AI dalam media harus punya standar editorial. AI dalam pendidikan harus punya perlindungan anak. AI dalam kesehatan harus punya validasi klinis. AI dalam sektor keuangan harus punya mekanisme keberatan dan penjelasan.
Akuntabilitas adalah garis yang membedakan AI governance dari AI hype.
Perpres AI Harus Melindungi Publik, Bukan Cuma Memberi Kepastian Industri
Banyak regulasi teknologi lahir dengan bahasa “memberi kepastian hukum bagi industri”. Itu penting, tapi tidak cukup.
Perpres AI juga harus memberi kepastian bagi publik.
Publik perlu tahu haknya ketika berhadapan dengan sistem AI. Warga perlu tahu apakah keputusan yang memengaruhi hidupnya dibuat oleh manusia, AI, atau kombinasi keduanya. Anak perlu dilindungi dari sistem yang memanipulasi perhatian dan data mereka. Pekerja perlu perlindungan dari evaluasi otomatis yang bias. Konsumen perlu tahu kalau rekomendasi, skor, atau penawaran dipersonalisasi oleh sistem AI.
Kalau regulasi hanya bicara inovasi dan investasi, publik akan tertinggal.
Dan kalau publik merasa AI hanya menguntungkan perusahaan besar serta negara, trust akan turun.
Kepala Dingin: Jangan Anti Regulasi, Jangan Juga Terlalu Percaya Regulasi
Di Indonesia, pembicaraan regulasi sering ekstrem.
Ada yang langsung khawatir: nanti inovasi mati. Ada yang langsung berharap: kalau sudah ada aturan, semua aman. Dua-duanya terlalu cepat.
Regulasi yang buruk memang bisa membunuh inovasi. Tapi tidak ada regulasi juga bisa membuat publik jadi korban eksperimen teknologi yang tidak diawasi.
Perpres AI harus mencari titik tengah yang sulit: cukup kuat untuk mengatur risiko, cukup fleksibel untuk mengikuti perkembangan teknologi, cukup jelas untuk pelaku industri, cukup tegas untuk sektor berisiko tinggi, dan cukup manusiawi untuk melindungi warga.
Ini bukan kerja mudah. Tapi justru karena sulit, dokumennya tidak boleh formalitas.
Kesimpulan: Titik Baliknya Ada di Eksekusi, Bukan di Tanda Tangan
Perpres AI bisa menjadi titik balik untuk Indonesia.
Tapi titik balik itu tidak terjadi saat dokumen ditandatangani. Titik balik terjadi saat aturan itu mengubah cara AI dipakai: di kementerian, sekolah, rumah sakit, startup, bank, media, platform digital, pemerintah daerah, dan perusahaan biasa.
Kalau Perpres AI hanya menjadi dokumen formal, ia akan menambah arsip kebijakan digital yang terlihat modern tapi tidak mengubah realitas.
Kalau Perpres AI diterjemahkan menjadi standar risiko, audit, data governance, transparansi, akuntabilitas, dan perlindungan publik, ia bisa menjadi fondasi penting.
Indonesia tidak kekurangan ambisi teknologi.
Yang harus dibuktikan sekarang adalah disiplin mengaturnya.
Karena AI yang tidak diatur dengan serius bukan hanya membuat inovasi berjalan cepat.
Ia juga membuat kesalahan berjalan lebih cepat, lebih luas, dan lebih sulit dihentikan.