Ada satu fase baru dalam keamanan digital Indonesia yang belum benar-benar masuk ke kepala banyak orang: bukti visual tidak lagi otomatis bisa dipercaya.
Dulu, ketika ada video seseorang berbicara, mayoritas orang langsung merasa punya bukti. Kalau ada suara yang terdengar mirip orang tua, atasan, pejabat, artis, founder, atau public figure, respons pertama kita biasanya bukan skeptis. Respons pertama kita adalah percaya dulu, baru ragu belakangan.
Deepfake menghancurkan kebiasaan itu.
Yang bikin masalah ini berat bukan cuma teknologinya semakin rapi. Masalahnya, masyarakat Indonesia hidup di ruang digital yang sangat cepat menyebarkan emosi. WhatsApp group keluarga, TikTok, Instagram Reels, X, Telegram, Facebook, grup sekolah, grup RT, grup kantor, semuanya bisa menjadi jalur distribusi. Sekali video atau suara sintetis masuk ke jalur sosial yang dipercaya, koreksi biasanya datang terlambat.
Di titik ini, deepfake bukan lagi isu teknis. Ini isu trust infrastructure.
Deepfake Mengubah Cara Orang Mempercayai Bukti
Selama bertahun-tahun, literasi digital Indonesia banyak berkutat pada hoaks teks, berita palsu, judul clickbait, akun palsu, dan link mencurigakan. Polanya cukup familiar: cek sumber, cek tanggal, cek domain, jangan percaya screenshot sembarangan.
Deepfake membawa lapisan baru yang lebih emosional. Orang tidak hanya membaca klaim. Mereka melihat wajah. Mereka mendengar suara. Mereka merasa sedang menyaksikan realitas.
Itulah kenapa deepfake punya daya rusak yang beda. Ia menyerang lapisan psikologis yang lebih dalam: kedekatan, otoritas, dan rasa familiar. Kalau suara itu terdengar seperti anak, orang tua, atasan, pasangan, pejabat, atau tokoh publik, otak manusia sering memprosesnya sebagai sinyal kepercayaan, bukan sebagai objek verifikasi.
Di Indonesia, konteks ini lebih rawan karena pola komunikasi digital kita sangat berbasis relasi. Banyak keputusan kecil maupun besar terjadi lewat chat, voice note, video call, dan instruksi informal. Transfer dana, approval pekerjaan, booking jasa, konfirmasi dokumen, perubahan nomor rekening, sampai permintaan data pribadi sering berjalan lewat kanal yang tidak selalu punya protokol kuat.
Deepfake masuk persis ke celah itu.
Ancaman yang Datang Lebih Cepat dari Regulasi
Pemerintah sudah mulai mengakui bahwa AI menjadi faktor baru dalam risiko siber. Komdigi pada awal 2026 bahkan membingkai AI sebagai senjata siber dan menyoroti kenaikan tajam aktivitas deepfake. Sinyalnya jelas: isu ini sudah keluar dari ranah eksperimen teknologi dan masuk ke ranah keamanan publik.
Masalahnya, regulasi biasanya bergerak dengan bahasa yang rapi, proses yang panjang, dan definisi yang harus presisi. Deepfake bergerak dengan template, aplikasi, prompt, model generatif, akun anonim, dan distribusi sosial yang sangat cepat.
Di Indonesia, beberapa kerangka hukum bisa menyentuh dampak deepfake, seperti pelindungan data pribadi, penyebaran konten melanggar hukum, penipuan, pencemaran nama baik, eksploitasi seksual berbasis digital, dan pelanggaran terhadap anak. Tetapi deepfake sebagai objek teknologi sering masih berada di ruang abu-abu: bagaimana mendefinisikan konten sintetis, bagaimana membuktikan atribusi pembuat, siapa yang bertanggung jawab ketika konten menyebar, dan bagaimana korban bisa mendapat pemulihan cepat.
Regulasi bukan tidak penting. Justru sangat penting. Tetapi kalau respons publik hanya menunggu aturan final, ancamannya sudah keburu masuk ke ruang keluarga, sekolah, kantor, komunitas bisnis, dan politik lokal.
Korban Deepfake Tidak Selalu Public Figure
Kesalahan umum dalam membaca deepfake adalah menganggap korbannya hanya politisi, selebritas, atau orang terkenal. Itu terlalu sempit.
Deepfake bisa menyasar siapa pun yang punya nilai untuk ditipu, diperas, dipermalukan, atau dimanipulasi. Di level keluarga, voice cloning bisa dipakai untuk skenario darurat palsu: anak katanya kecelakaan, orang tua katanya butuh uang, teman katanya kena masalah. Di level kantor, suara atasan bisa dipakai untuk mendesak transfer, mengubah instruksi pembayaran, atau meminta file rahasia. Di level sekolah, wajah siswa bisa disalahgunakan untuk konten seksual sintetis. Di level politik lokal, video palsu bisa menyalakan kemarahan sebelum klarifikasi punya waktu untuk bekerja.
Inilah bagian yang harus dipahami: deepfake tidak harus sempurna untuk merusak. Ia hanya perlu cukup meyakinkan pada saat korban sedang panik, terburu-buru, atau berada dalam konteks relasi yang dipercaya.
AI tidak perlu menipu semua orang. Ia hanya perlu menipu orang yang tepat, pada waktu yang tepat, lewat kanal yang tepat.
Trust Digital Tidak Bisa Lagi Bergantung pada Mata dan Telinga
Selama ini banyak orang merasa bisa mendeteksi konten palsu dengan intuisi. “Kelihatan aneh.” “Suaranya nggak natural.” “Gerak bibirnya janggal.” Cara ini makin lemah.
Model generatif bergerak cepat. Sementara itu, distribusi konten sering terjadi di layar kecil, kualitas kompresi rendah, audio pecah, dan konteks emosional tinggi. Justru kondisi seperti ini membuat konten sintetis lebih sulit dibedakan.
Trust digital ke depan harus bergeser dari “apakah ini terlihat asli?” menjadi “apakah sumber, konteks, dan proses verifikasinya bisa dipercaya?”
Misalnya, kalau ada video atasan meminta transfer, perusahaan tidak bisa hanya bertanya apakah suara dan wajahnya mirip. Harus ada protokol: callback ke nomor resmi, approval multi-pihak, batas transaksi, audit trail, dan channel confirmation. Kalau ada konten publik yang menyerang seseorang, media dan platform tidak boleh hanya mengejar engagement. Harus ada mekanisme provenance, label konten sintetis, takedown cepat, dan ruang koreksi yang proporsional.
Dengan kata lain, deepfake memaksa masyarakat membangun sistem verifikasi, bukan sekadar kemampuan menebak.
Indonesia Punya Risiko Sosial yang Khas
Ada beberapa faktor lokal yang membuat deepfake di Indonesia perlu dibaca lebih serius.
Pertama, penetrasi media sosial dan pesan instan sangat tinggi. Informasi sering tidak berjalan lewat halaman resmi, tetapi lewat potongan video, screenshot, voice note, dan caption pendek. Kedua, kultur menghormati otoritas dan relasi keluarga bisa dimanfaatkan pelaku. Instruksi dari “atasan”, “guru”, “orang tua”, atau “tokoh” sering mendapat kepercayaan awal lebih tinggi. Ketiga, banyak organisasi kecil belum punya protokol keamanan formal. UMKM, yayasan, sekolah, komunitas, dan kantor lokal bisa sangat rentan terhadap social engineering.
Keempat, literasi hukum korban masih tidak merata. Banyak korban malu, bingung, atau takut melapor. Dalam kasus konten sintetis yang mempermalukan, beban sosial sering justru pindah ke korban, bukan pelaku. Ini berbahaya.
Deepfake bukan hanya ancaman terhadap data. Ia bisa menjadi senjata reputasi.
Regulasi Harus Mengejar Tiga Hal
Kalau Indonesia ingin serius menghadapi deepfake, regulasi tidak cukup hanya melarang konten palsu secara umum. Ada tiga hal yang harus dikejar.
Pertama, definisi teknis dan hukum yang jelas. Tidak semua konten sintetis berbahaya. Ada parodi, edukasi, film, iklan, dan eksperimen kreatif. Yang perlu dibedakan adalah penggunaan manipulatif, non-konsensual, merugikan, atau menipu. Tanpa definisi yang jelas, aturan bisa terlalu lemah atau terlalu luas.
Kedua, mekanisme pemulihan korban. Dalam kasus deepfake, kecepatan sangat menentukan. Kalau korban harus menunggu proses panjang sementara konten terus menyebar, kerusakan reputasi sudah terjadi. Harus ada jalur pelaporan, verifikasi, takedown, dan dokumentasi bukti yang lebih cepat.
Ketiga, tanggung jawab platform dan penyedia teknologi. Platform tidak bisa hanya bilang mereka menyediakan ruang. Ketika distribusi konten sintetis terjadi lewat sistem rekomendasi, engagement, dan monetisasi, platform ikut menjadi bagian dari arsitektur risiko.
Regulasi yang baik bukan membunuh inovasi AI. Regulasi yang baik memastikan inovasi tidak menjadi alat pemerasan, eksploitasi, dan penipuan massal.
Yang Harus Dilakukan Institusi Sekarang
Perusahaan, sekolah, kampus, media, lembaga publik, dan komunitas tidak perlu menunggu regulasi sempurna untuk mulai bergerak.
Langkah paling dasar adalah membuat protokol verifikasi untuk instruksi sensitif. Transfer uang, perubahan rekening, permintaan dokumen, akses sistem, dan approval penting tidak boleh bergantung pada chat atau voice note tunggal. Harus ada second channel verification.
Langkah berikutnya adalah edukasi internal. Bukan edukasi generik seperti “waspada deepfake”, tetapi simulasi kasus: bagaimana kalau ada voice note mirip direktur meminta transfer, bagaimana kalau ada video palsu guru, bagaimana kalau ada konten sintetis tentang siswa, bagaimana kalau akun resmi terkena impersonation.
Institusi juga perlu punya crisis response. Siapa yang bicara, bukti apa yang dikumpulkan, kanal mana yang dipakai untuk klarifikasi, dan bagaimana menjaga korban agar tidak makin diserang.
Di dunia digital sekarang, trust bukan lagi kondisi default. Trust harus didesain.
Deepfake Membuat Literasi Digital Naik Kelas
Literasi digital lama mengajarkan orang untuk tidak mudah percaya link dan headline. Literasi digital baru harus mengajarkan orang untuk tidak mudah percaya wajah, suara, dan video, terutama ketika kontennya memicu panik, marah, malu, atau terburu-buru.
Ini bukan berarti semua orang harus paranoid. Yang dibutuhkan adalah kebiasaan verifikasi yang lebih dewasa.
Kalau ada permintaan uang mendadak, verifikasi. Kalau ada video yang terlalu emosional, tunggu konteks. Kalau ada suara orang dekat meminta sesuatu yang tidak biasa, hubungi ulang lewat kanal lain. Kalau ada konten merusak reputasi seseorang, jangan ikut menyebarkan hanya karena terlihat “nyata”.
Di era deepfake, kemampuan paling penting bukan mendeteksi semua kepalsuan. Itu mustahil. Kemampuan paling penting adalah memperlambat reaksi sebelum keputusan berisiko dibuat.
Kesimpulan: Masalahnya Bukan AI, Tapi Trust yang Belum Siap
Deepfake Indonesia adalah peringatan bahwa sistem kepercayaan digital kita masih terlalu mengandalkan intuisi visual dan relasi sosial. Kita percaya karena melihat. Kita percaya karena mendengar. Kita percaya karena dikirim oleh orang yang kita kenal.
AI membuat semua itu bisa dipalsukan dengan biaya makin murah.
Regulasi harus bergerak, tetapi masyarakat dan institusi juga harus membangun protokolnya sendiri. Deepfake tidak akan menunggu definisi hukum selesai. Ia akan masuk lewat WhatsApp, DM, meeting online, voice note, video pendek, dan ruang-ruang sosial yang selama ini dianggap aman.
Ancaman deepfake bukan cuma bahwa orang akan percaya kebohongan. Ancaman terbesarnya adalah ketika masyarakat tidak lagi tahu bukti mana yang bisa dipercaya, korban mana yang harus dilindungi, dan institusi mana yang punya prosedur untuk merespons.
Itu sebabnya isu ini harus dibaca sebagai bagian dari Cybersecurity & Trust, bukan sekadar tren AI. Ia juga terhubung dengan AI Governance, Data, Privacy & Digital Rights, dan Digital Policy. Karena begitu wajah dan suara bisa dipalsukan, masa depan digital bukan lagi soal siapa yang paling canggih. Ini soal siapa yang paling bisa dipercaya.