AI generated content sering dibahas dari sisi produktivitas. Bisa bikin artikel lebih cepat. Bisa bikin gambar lebih murah. Bisa bikin video tanpa studio. Bisa bikin caption, presentasi, iklan, naskah, bahkan wajah virtual dalam hitungan menit.
Itu semua benar. Tapi terlalu sempit.
Masalah terbesar AI generated content bukan hanya konten jadi banyak. Masalahnya, publik makin sulit menilai mana yang benar-benar terjadi, mana yang dibuat, mana yang diedit, mana yang disponsori, mana yang dipelintir, dan mana yang hanya terlihat meyakinkan.
Kita masuk ke fase baru: bukan sekadar banjir informasi, tetapi banjir realitas sintetis.
Konten AI Menghapus Biaya Kebohongan
Dulu, membuat konten palsu yang meyakinkan butuh usaha besar. Perlu editor, desain, talent, studio, atau kemampuan teknis. Sekarang, sebagian besar hambatan itu turun drastis.
Satu orang bisa membuat puluhan gambar palsu, video pendek, narasi berita, komentar, review, testimoni, dan akun persona dalam waktu singkat. Kualitasnya belum selalu sempurna, tetapi cukup untuk mengganggu perhatian publik.
Ini mengubah ekonomi disinformasi. Kalau biaya membuat kebohongan turun, jumlah kebohongan naik. Kalau jumlah konten sintetis naik, kapasitas publik untuk memeriksa turun. Kalau pemeriksaan turun, rasa percaya ikut terkikis.
Masalahnya bukan bahwa semua konten AI buruk. Banyak konten AI bisa berguna untuk edukasi, aksesibilitas, desain, riset, dan kreativitas. Masalahnya, publik tidak selalu diberi konteks kapan AI digunakan, untuk tujuan apa, dengan sumber apa, dan siapa yang bertanggung jawab.
Krisis Kepercayaan Tidak Terjadi Sekaligus
Kepercayaan publik jarang runtuh dalam satu hari. Ia aus pelan-pelan.
Pertama, orang melihat konten palsu yang viral. Lalu melihat klarifikasi yang datang terlambat. Lalu melihat akun anonim membuat narasi baru. Lalu melihat institusi resmi lambat merespons. Lalu melihat media saling mengutip tanpa konteks. Lalu mulai berpikir: mungkin semuanya bisa dimanipulasi.
Di titik itu, efek AI generated content menjadi lebih dalam daripada satu hoaks. Ia menimbulkan cynicism. Orang tidak hanya meragukan konten palsu. Mereka mulai meragukan konten benar.
Ini yang berbahaya. Ketika semua bisa dianggap palsu, pihak yang paling diuntungkan sering bukan pembela kebenaran, melainkan pelaku manipulasi. Mereka bisa memakai strategi “liar’s dividend”: ketika bukti asli muncul, mereka tinggal bilang itu juga buatan AI.
Publik Tidak Hanya Butuh Label, Tapi Butuh Konteks
Banyak orang mengusulkan label: konten ini dibuat AI, gambar ini sintetis, audio ini dimodifikasi. Label penting. Tetapi label saja tidak cukup.
Kenapa? Karena label bisa hilang ketika konten diunggah ulang. Label bisa tidak dipahami publik. Label bisa dipakai terlalu umum sehingga orang mengabaikannya. Label juga bisa menjadi formalitas tanpa menjelaskan kualitas sumber.
Yang dibutuhkan adalah konteks yang lebih lengkap.
Apakah AI dipakai untuk membantu menyusun teks, menghasilkan gambar, mengedit audio, menerjemahkan, merangkum, atau menciptakan peristiwa fiktif? Apakah ada manusia yang memeriksa? Apakah sumber data tersedia? Apakah konten ini opini, simulasi, berita, satire, iklan, atau dokumentasi?
AI generated content tidak otomatis bermasalah. Yang bermasalah adalah konten sintetis yang disajikan seolah-olah bukti faktual tanpa transparansi.
Media, Brand, dan Pemerintah Akan Diuji
Krisis kepercayaan AI tidak hanya menghantam platform sosial. Ia juga menghantam media, brand, pemerintah, kampus, influencer, dan lembaga publik.
Media harus menjelaskan kapan AI dipakai dalam produksi editorial. Brand harus berhati-hati memakai visual sintetis agar tidak menciptakan klaim palsu. Pemerintah harus memastikan komunikasi publik tidak tampak seperti propaganda otomatis. Kampus harus membedakan bantuan AI dalam belajar dan fabrikasi karya. Influencer harus jujur ketika testimoni, review, atau visual dikurasi secara sintetis.
Reuters Institute dalam Digital News Report 2025 menunjukkan kekhawatiran global yang signifikan tentang apa yang nyata dan palsu online dalam konteks berita. Dalam laporan generative AI dan berita, mereka juga menyoroti bagaimana publik menilai penggunaan AI dalam jurnalisme dan masyarakat. Ini bukan isu pinggir. Ini langsung menyentuh legitimasi informasi.
Kalau lembaga yang seharusnya dipercaya memakai AI tanpa transparansi, mereka sedang menghemat biaya produksi dengan membayar mahal di reputasi.
AI Content Farm Akan Membuat Internet Terasa Lebih Bising
Salah satu dampak paling terlihat adalah meningkatnya konten generik. Artikel generik. Review generik. Video reaksi generik. Komentar generik. Konten motivasi generik. Nasihat kesehatan generik. Analisis keuangan generik. Berita setengah matang yang ditulis ulang berkali-kali.
Internet menjadi penuh, tetapi tidak selalu lebih informatif.
Dalam konteks Indonesia, ini bisa memperparah masalah literasi. Orang yang mencari informasi soal kesehatan, hukum, keuangan, sekolah, bantuan pemerintah, atau keamanan digital bisa bertemu konten yang terlihat rapi tapi miskin tanggung jawab. Konten seperti ini tidak selalu bohong secara eksplisit, tetapi bisa kabur, dangkal, dan tidak memberi batasan risiko.
AI generated content yang tidak diawasi bisa membuat informasi publik terlihat banyak, tetapi kualitasnya menurun.
Keaslian Akan Menjadi Nilai Ekonomi
Ketika konten sintetis membanjiri internet, keaslian menjadi aset. Bukan keaslian dalam arti anti-AI, tetapi keaslian sebagai kemampuan membuktikan sumber, proses, dan tanggung jawab.
Media yang punya standar editorial jelas akan lebih bernilai. Brand yang punya bukti nyata akan lebih dipercaya. Pemerintah yang membuka data dan proses akan lebih kuat. Akademisi yang menunjukkan metodologi akan lebih tahan. Kreator yang transparan soal penggunaan AI akan lebih kredibel.
Ke depan, publik tidak hanya bertanya “kontennya bagus atau tidak?” Mereka akan bertanya: “ini dari siapa, dibuat dengan cara apa, dasarnya apa, dan kalau salah siapa yang bertanggung jawab?”
AI membuat konten menjadi murah. Trust membuat konten tetap bernilai.
Platform Harus Berhenti Memperlakukan Ini sebagai Masalah Moderasi Biasa
Konten AI bukan hanya masalah take down. Ia masalah arsitektur distribusi.
Platform menentukan konten mana yang diperbesar, akun mana yang dimonetisasi, format mana yang diprioritaskan, dan apakah publik diberi sinyal yang cukup untuk memahami asal-usul konten. Kalau sistem rekomendasi memberi hadiah pada konten sintetis yang provokatif, maka platform bukan hanya tempat distribusi, tetapi mesin insentif.
Regulasi dan standar global mulai bergerak ke arah watermarking, provenance, disclosure, dan akuntabilitas platform. Tetapi penerapannya akan sulit jika publik tidak punya ekspektasi baru: platform harus membantu membedakan konten autentik, konten sintetis, konten satire, konten iklan, dan konten manipulatif.
Tanpa itu, ruang publik akan makin mudah dibanjiri konten yang dibuat bukan untuk memberi informasi, tetapi untuk mengganggu kepercayaan.
Jangan Anti-AI, Tapi Jangan Naif
Respons yang tepat bukan menolak semua konten AI. Itu tidak realistis dan tidak produktif.
AI bisa membantu jurnalis meriset, guru menyusun materi, penyandang disabilitas mengakses informasi, pelaku usaha membuat komunikasi, dan organisasi kecil meningkatkan kapasitas produksi. Banyak manfaat nyata.
Tetapi manfaat itu hanya sehat jika ada batas: transparansi, review manusia, sumber yang jelas, koreksi terbuka, dan tanggung jawab ketika konten berdampak pada publik.
Masalahnya bukan AI menulis. Masalahnya siapa yang bertanggung jawab ketika tulisan, gambar, atau video itu dipercaya publik dan ternyata menyesatkan.
Kesimpulan: Masa Depan Informasi Adalah Masa Depan Trust
AI generated content akan menjadi bagian permanen dari internet. Kita tidak sedang menuju dunia tanpa konten sintetis. Kita sedang menuju dunia di mana konten sintetis menjadi default di banyak ruang.
Karena itu, pertanyaan terpenting bukan “apakah ini dibuat AI?” Pertanyaan terpenting adalah “apakah ini bisa dipercaya?”
Jawabannya tidak akan datang dari label semata. Ia datang dari sumber yang jelas, proses yang transparan, standar editorial, desain platform, regulasi yang masuk akal, dan literasi publik yang memahami bahwa konten meyakinkan belum tentu konten benar.
Isu ini berada di pusat Cybersecurity & Trust, sekaligus beririsan dengan AI Governance, Digital Policy, GEO & Future of Search, dan Data, Privacy & Digital Rights.
AI membuat produksi konten lebih mudah. Tapi di ruang publik, yang paling mahal bukan lagi kemampuan membuat konten. Yang paling mahal adalah kemampuan membuat orang percaya tanpa memanipulasi mereka.