AI governance kedengarannya jauh.
Kayak sesuatu yang dibahas di forum internasional, ruang kementerian, kantor Big Tech, atau slide konsultan yang penuh istilah: accountability, transparency, risk management, responsible AI, human oversight, auditability.
Buat banyak orang, istilah itu terasa bukan urusan hidup harian. Seolah-olah AI governance hanya penting buat regulator, pengacara, engineer, dan perusahaan besar.
Padahal itu salah baca.
Begitu artificial intelligence mulai masuk ke sekolah, kantor, platform digital, layanan publik, aplikasi finansial, media sosial, rekrutmen, customer service, dan search generatif, governance bukan lagi isu jauh. Ia mulai menyentuh hal yang sangat personal: data lo dipakai untuk apa, keputusan dibuat oleh siapa, konten yang lo lihat dibentuk oleh sistem apa, dan kalau AI salah, lo bisa protes ke siapa.
Jadi masalahnya bukan apakah AI governance terdengar keren atau ribet.
Masalahnya: tanpa governance, hidup harian kita bisa makin dikendalikan sistem yang tidak transparan, tidak mudah dibantah, dan tidak selalu bisa dimintai tanggung jawab.
Governance Itu Bukan Rem Anti-Inovasi
Di Indonesia, setiap kali ada wacana regulasi teknologi, sebagian orang langsung khawatir: nanti inovasi mati.
Kekhawatiran itu wajar. Regulasi yang terlalu kaku memang bisa membuat startup, kampus, UMKM, developer, dan industri lokal susah bergerak. Tapi tidak ada governance juga bukan pilihan pintar.
AI bukan aplikasi biasa. AI bisa membaca data, membuat prediksi, memberi rekomendasi, menyusun konten, membentuk persepsi, dan dalam beberapa kasus menjalankan aksi lewat AI agents. Kalau sistem seperti itu dipakai luas tanpa batas, risiko sosialnya tidak kecil.
NIST lewat AI Risk Management Framework menempatkan pengelolaan risiko AI ke dalam fungsi govern, map, measure, dan manage. Bahasa gampangnya: organisasi perlu tahu siapa yang mengatur, AI dipakai di mana, risikonya diukur bagaimana, dan bagaimana risiko itu dikendalikan.
Itu bukan rem inovasi. Itu rem agar inovasi tidak menabrak orang.
Dampaknya Bisa Masuk ke Sekolah Anak
Bayangin sekolah mulai memakai AI untuk membantu guru menilai tugas, membuat materi belajar, mendeteksi plagiarisme, atau memberi rekomendasi pembelajaran personal.
Di atas kertas, bagus. Guru terbantu. Murid dapat pengalaman belajar yang lebih adaptif. Administrasi bisa lebih ringan.
Tapi pertanyaannya langsung banyak.
Data anak disimpan di mana? Apakah orang tua tahu? Apakah sistem itu bisa bias terhadap gaya bahasa anak tertentu? Apakah murid yang memakai bahasa daerah atau bahasa campur akan dinilai lebih rendah? Apakah AI boleh memberi rekomendasi akademik tanpa review guru? Apakah sekolah punya standar saat memakai tools publik?
Di sinilah data governance systems jadi sangat nyata. Ia bukan konsep IT. Ia menentukan apakah data anak diperlakukan sebagai aset pendidikan atau sebagai bahan eksperimen digital.
Kalau AI governance tidak masuk ke pendidikan, sekolah bisa merasa modern, tapi anak menjadi objek sistem yang tidak cukup dipahami orang dewasa di sekitarnya.
Dampaknya Bisa Masuk ke Kantor Lo
Di kantor, AI governance juga bukan teori.
Perusahaan mulai memakai AI untuk screening CV, merangkum meeting, menganalisis performa, menyusun laporan, menjawab customer, memberi rekomendasi sales, sampai membantu keputusan pricing dan operasional.
Semua itu bisa membantu. Tapi juga bisa bermasalah.
Kalau AI membantu screening kandidat, apakah modelnya bias terhadap kampus tertentu, umur tertentu, gender tertentu, atau gaya bahasa tertentu? Kalau AI merangkum meeting, apakah bagian sensitif bisa hilang? Kalau AI membuat rekomendasi performa, apakah pekerja tahu dasar penilaiannya? Kalau AI dipakai untuk customer service, apakah pelanggan diberi tahu sedang bicara dengan sistem otomatis?
Microsoft lewat Responsible AI menekankan prinsip seperti fairness, reliability, privacy, inclusiveness, transparency, dan accountability. Prinsip itu kedengarannya enterprise banget. Tapi di kantor biasa, efeknya konkret: jangan sampai AI mempercepat keputusan yang tidak adil.
Kalau tidak ada governance, AI bisa menjadi atasan diam-diam yang ikut menilai orang tanpa pernah muncul di struktur organisasi.
Dampaknya Bisa Masuk ke Kredit, Asuransi, dan Layanan Finansial
AI scoring, risk model, fraud detection, dan automation di sektor keuangan bukan hal baru. Tapi generative AI dan agentic workflow membuat lapisannya makin kompleks.
Kalau seseorang ditolak kredit karena sistem AI menilai risikonya tinggi, ia berhak tahu apa? Kalau premi atau limit ditentukan oleh model, apakah konsumen bisa meminta penjelasan? Kalau AI membaca pola transaksi, bagaimana privasi pengguna dijaga?
Ini bukan sekadar urusan fintech. Ini urusan kepercayaan publik.
OECD melalui OECD AI Principles menekankan AI yang trustworthy, human-centered, transparent, explainable, robust, secure, dan accountable. Dalam konteks keuangan, prinsip itu berarti sistem tidak boleh hanya cepat, tapi juga harus bisa dipertanggungjawabkan.
Keputusan finansial punya konsekuensi nyata. Bisa memengaruhi akses modal, kemampuan membayar, reputasi, dan kesempatan hidup orang.
Kalau AI ikut di dalamnya, governance harus ikut masuk.
Dampaknya Bisa Masuk ke Informasi yang Lo Konsumsi
AI governance juga menyentuh informasi harian.
Feed media sosial, rekomendasi video, hasil pencarian, ringkasan berita, chatbot, dan AI search mulai membentuk cara orang melihat dunia. Konten yang muncul bisa memengaruhi opini politik, keputusan kesehatan, pilihan belanja, cara orang tua mendidik anak, bahkan cara publik memahami isu nasional.
Kalau sistem rekomendasi dan AI content generation tidak punya standar integritas informasi, ruang publik bisa makin sulit dipercaya.
Di sini information integrity jadi isu governance. Bukan hanya apakah konten dibuat AI atau manusia, tapi apakah konten itu bisa diverifikasi, apakah sumbernya jelas, apakah manipulasi sintetis diberi label, dan apakah publik punya cara membedakan informasi valid dari konten yang hanya terlihat meyakinkan.
UNESCO dalam Recommendation on the Ethics of Artificial Intelligence menempatkan perlindungan hak asasi manusia dan martabat manusia sebagai fondasi, dengan prinsip transparansi, fairness, dan human oversight.
Perpres AI Bisa Membuat Governance Turun ke Realitas Harian
Komdigi pada Maret 2026 menyebut Perpres AI sebagai fondasi tata kelola teknologi masa depan Indonesia. JDIH Komdigi juga memuat telaah yang menyebut sedang disusun RPerpres tentang Peta Jalan Kecerdasan Artifisial Nasional Tahun 2026-2029 dan RPerpres tentang Etika Kecerdasan Artifisial.
Ini penting, tapi pertanyaannya tetap: apakah governance akan turun ke hidup harian?
Karena publik tidak hidup di dokumen Perpres. Publik hidup di aplikasi, sekolah, kantor, layanan publik, platform digital, bank, rumah sakit, dan ruang informasi.
Perpres AI akan berarti kalau ia memaksa sistem menjadi lebih jelas: mana AI risiko tinggi, mana yang wajib audit, mana yang wajib human review, mana yang harus transparan, mana yang boleh memakai data sensitif, dan bagaimana warga bisa mengajukan keberatan.
Kesimpulan: AI Governance Itu Dekat, Cuma Bahasanya Sering Dibikin Jauh
AI governance sering terdengar jauh karena bahasanya terlalu institusional.
Padahal dampaknya dekat sekali.
Ia masuk ke data anak, kerja kantor, keputusan finansial, layanan publik, informasi harian, dan relasi manusia dengan sistem otomatis. Ia menentukan apakah AI menjadi alat bantu yang bisa dipercaya atau mesin keputusan yang berjalan tanpa kontrol.
Jadi jangan baca AI governance sebagai urusan regulator doang.
Baca sebagai pertanyaan hidup harian: saat AI mulai memengaruhi keputusan tentang kita, apakah kita masih punya hak untuk tahu, bertanya, membantah, dan meminta tanggung jawab?
Kalau jawabannya belum jelas, berarti governance belum selesai.