Feed 2026 punya problem baru.
Bukan cuma apakah informasi benar atau salah.
Sekarang kita juga harus bertanya:
Ini manusia?
AI?
Campuran?
Video asli dengan suara sintetis?
Foto real dengan background generated?
Influencer real dengan wajah retouch ekstrem?
Voice clone?
Character virtual?
Semakin banyak content production memakai AI, batas “asli versus palsu” tidak sesederhana dulu.
Platform sudah merespons.
YouTube mewajibkan creator disclose content yang secara realistis diubah atau dihasilkan secara sintetis dalam kondisi tertentu, misalnya membuat orang nyata terlihat mengatakan sesuatu yang tidak pernah mereka katakan atau menghasilkan scene realistis yang tidak pernah terjadi.
TikTok juga mewajibkan pelabelan untuk konten AI tertentu yang terlihat realistis dan menyediakan label creator maupun label otomatis.
Lalu pada 2 Agustus 2026, transparency obligations Article 50 EU AI Act mulai berlaku. Aturan tersebut mendorong marking dan labelling untuk AI-generated atau manipulated content pada konteks tertentu, termasuk deepfake.
Jadi label AI akan semakin sering muncul.
Pertanyaannya:
Apakah label cukup untuk menjaga trust?
Belum tentu.
Trust tidak bisa diselesaikan dengan satu badge.
Ada beberapa alasan.
Pertama, AI content tidak otomatis buruk.
Kalau animator memakai AI untuk background, apa masalahnya?
Kalau creator memakai voice cleanup, caption otomatis, atau script assistance, tidak otomatis menipu.
YouTube sendiri membedakan perubahan minor atau production assistance dengan synthetic content realistis yang perlu disclosure.
Ini penting.
Kalau semua hal diberi label “AI”, label kehilangan meaning.
User melihat begitu sering sampai ignore.
Label fatigue.
Platform perlu memberi context.
“Altered or synthetic.”
“AI-generated.”
“Creator labeled.”
“Detected.”
Jenis disclosure berbeda.
User perlu tahu apa yang sebenarnya berubah.
Kedua, content manusia juga bisa bohong.
Video 100 persen real bisa dipotong konteks.
Caption salah.
Angle manipulatif.
Data palsu.
Jadi label “not AI” bukan certificate of truth.
Ini mistake baru yang harus dihindari.
Provenance membantu menjawab bagaimana media dibuat.
Fact-checking menjawab apakah klaim benar.
Dua hal berbeda.
Video real bisa misinformation.
Video AI bisa ilustrasi fakta yang transparan.
Trust perlu lebih dari authenticity.
Ketiga, synthetic content bisa punya berbagai level.
AI membuat thumbnail.
AI mengubah wajah.
AI membuat orang fiktif.
AI clone suara public figure.
AI menghasilkan seluruh video.
Semua masuk umbrella AI, tapi risk tidak sama.
Platform dan media literacy perlu lebih granular.
User harus bertanya:
Apakah AI use mengubah meaning?
Kalau tidak, risk rendah.
Kalau membuat orang terlihat melakukan sesuatu yang tidak terjadi, risk tinggi.
Kalau menyentuh health, finance, election, disaster, atau safety, threshold trust naik.
YouTube bahkan menyebut label bisa lebih prominent pada sensitive topics seperti election, conflict, natural disaster, finance, atau health.
Masuk akal.
Konteks menentukan harm.
Keempat, creator incentive.
Konten AI murah.
Satu orang bisa membuat puluhan video sehari.
Bukan berarti semua jelek.
Tapi supply meledak.
Attention tetap terbatas.
Feed bisa dipenuhi low-cost content yang dirancang bukan untuk memberi value, tapi mengisi slot.
AI slop.
User perlu signal quality baru.
Siapa source?
Apakah creator punya expertise?
Apakah ada original observation?
Apakah content cuma recycle?
Apakah caption punya source?
Apakah account punya consistent identity?
Trust bergeser dari “video terlihat real” ke “siapa yang bertanggung jawab atas informasi ini?”
Responsibility menjadi premium.
Kelima, platform detection tidak sempurna.
Content real bisa salah dilabeli AI.
Pada Agustus 2026 bahkan muncul keluhan creator bahwa content manusia mereka kadang terkena label AI atau dianggap synthetic oleh system.
False positive penting.
Kalau label dianggap stigma, creator legit bisa dirugikan.
Platform perlu appeal dan explanation.
Transparency system tidak boleh menjadi black box baru.
User juga jangan memperlakukan label sebagai verdict moral.
AI label berarti ada synthetic process.
Bukan otomatis hoaks.
Keenam, watermark dan metadata bisa hilang.
Content di-download.
Screenshot.
Re-upload.
Crop.
Transcode.
Machine-readable provenance bisa putus.
EU AI Act mendorong machine-readable marking untuk provider tertentu, tetapi real-world distribution tetap messy.
Jadi jangan mengandalkan satu technical marker.
Provenance chain perlu resilient.
C2PA dan standard sejenis bisa membantu, tapi adoption tidak universal.
User tetap membutuhkan behavior.
Cari source asli.
Ketujuh, repost culture memperburuk.
Video muncul di WhatsApp tanpa username.
TikTok di-screen-record lalu masuk Instagram.
Reels masuk X.
Caption berubah.
Original disclosure hilang.
Konten yang awalnya jelas “AI illustration” bisa beredar sebagai “rekaman nyata”.
Ini bukan kesalahan generator saja.
Distribution context berubah.
Creator yang membuat synthetic media sensitif sebaiknya menaruh disclosure di dalam frame, bukan hanya caption, jika risiko salah konteks tinggi.
Platform label membantu.
Embedded disclosure membantu ketika content lepas platform.
Kedelapan, influencer AI.
Virtual character bisa membangun follower.
Bicara.
Review produk.
Punya lore.
Kalau audience tidak tahu character itu synthetic, trust problem.
Transparency bukan cuma “konten ini AI”.
Bisa juga:
“Persona ini virtual.”
“Voice synthetic.”
“Partnership brand.”
Banyak layer.
Paid disclosure tetap perlu.
AI tidak menghapus aturan iklan.
FTC di AS bahkan memperbarui Endorsement Guides supaya definisi endorsement mencakup virtual influencers.
Artinya marketer tidak bisa bersembunyi di balik fakta bahwa endorser bukan manusia.
Kalau synthetic persona mempromosikan produk, advertising truth tetap berlaku.
Kesembilan, personal relationship dengan creator.
Social media trust sering parasocial.
User merasa kenal.
AI character bisa membangun intimacy yang sama.
Chat personal.
Reply.
Voice.
Live synthetic.
Ini membuat disclosure makin penting.
Orang perlu tahu apakah mereka berinteraksi dengan manusia atau system.
EU AI Act Article 50 juga mengandung kewajiban transparency ketika orang berinteraksi langsung dengan AI dalam konteks tertentu.
Identity layer menjadi bagian trust.
Kesepuluh, user behavior.
Kita perlu rule baru.
Jangan tanya:
“Kelihatan AI nggak?”
Tanya:
“Apa klaimnya?”
“Siapa source-nya?”
“Ada source asli?”
“Apa tindakan yang diminta?”
“Kalau salah percaya, risikonya apa?”
Content low-risk bisa dinikmati.
Meme AI.
Fantasy art.
Fun.
Tidak perlu forensic.
Content high-risk perlu verification.
Investment.
Emergency.
Political claim.
Health advice.
Identity.
Transfer.
Di sinilah energy checking kita dipakai.
Trust harus risk-based.
Ada juga satu kebiasaan sederhana: jangan share saat emosi tinggi.
AI content sering dirancang untuk outrage atau shock.
Video public figure melakukan sesuatu absurd.
Anak diculik.
Bencana.
War.
Panik.
Kalau emosi langsung naik, pause.
Cari source.
Synthetic media paling efektif ketika user bereaksi sebelum verifikasi.
Ini sama pattern scam.
Urgency dan emotion mengalahkan cognition.
Ada question buat creator.
Apakah disclosure merusak engagement?
Mungkin sebagian takut.
Tapi long-term trust lebih penting.
Kalau audience kemudian tahu content synthetic tanpa disclosure, reputasi rusak.
YouTube bahkan menyatakan disclosure tidak otomatis membatasi audience atau monetization hanya karena konten menggunakan AI, selama sesuai policy.
Platform ingin membuat disclosure normal.
Creator perlu ikut.
Buat brand, jangan suruh influencer menyembunyikan AI use kalau materially synthetic.
Kalau campaign memakai virtual model, bilang.
Kalau before-after dibuat generatif, jangan seolah foto customer asli.
Kalau testimonial synthetic, problem-nya jauh lebih serius.
Truth in advertising tetap berlaku.
AI bukan excuse.
Buat platform, challenge terbesar bukan membedakan manusia dan AI secara sempurna.
Mungkin itu mustahil.
Challenge-nya menjaga user punya enough context untuk menilai.
Disclosure.
Provenance.
Source.
Appeal.
Sensitive topic friction.
Authenticity signal.
User control.
Media sosial memang makin dipenuhi content AI.
Trust tidak akan kembali ke era ketika “lihat video berarti percaya.”
Era itu selesai.
Trust 2026 lebih layered.
Kita percaya bukan karena gambar tampak nyata.
Kita percaya karena source jelas, context masuk akal, evidence ada, disclosure transparan, dan ada pihak yang bertanggung jawab.
AI membuat content murah.
Akibatnya, trust menjadi lebih mahal.
Ada satu signal trust lain yang bakal makin penting: correction behavior. Creator yang salah lalu mengoreksi dengan jelas lebih credible daripada account yang selalu terlihat sempurna tetapi diam-diam menghapus kesalahan. Di dunia synthetic content, transparency soal proses dan koreksi menjadi reputation asset.
Platform juga sebaiknya menyimpan history label atau correction untuk high-impact content ketika konteks berubah, bukan membuat misinformation hilang tanpa jejak.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Di feed yang murah diproduksi, reputasi dan provenance menjadi filter yang semakin penting.
Bacaan terkait
Artikel ini berada dalam Social Media & Platforms dan mengikuti metodologi editorial Undercover.id. Format terkait tersedia di Explainer teknologi dan kebijakan digital.