Kalau ngomong soal keamanan anak di internet, orang sering langsung mikir konten.
Pornografi.
Kekerasan.
Bullying.
Scam.
Grooming.
Semua memang penting.
Tapi PP TUNAS di Indonesia membawa satu perspektif yang lebih luas: risiko platform juga datang dari desain.
Ini menarik.
Karena sebuah aplikasi bisa punya content moderation cukup ketat, tetapi tetap dirancang dengan mechanics yang membuat anak sulit berhenti.
Autoplay.
Infinite scroll.
Notification.
Streak.
Live interaction.
DM dari orang asing.
Reward loop.
Personalization ekstrem.
Purchase pressure.
Data collection.
Design bukan dekorasi.
Design mengatur behavior.
Peraturan Pemerintah Nomor 17 Tahun 2025 tentang tata kelola sistem elektronik dalam perlindungan anak secara eksplisit memasukkan beberapa aspek dalam penilaian risiko platform bagi anak.
Apakah anak bisa berkontak dengan orang tidak dikenal.
Apakah terpapar pornografi, kekerasan, atau konten berbahaya.
Apakah ada eksploitasi anak sebagai konsumen.
Apakah data pribadi anak terancam.
Apakah ada risiko adiksi.
Gangguan kesehatan psikologis.
Gangguan fisiologis.
Ini bukan checklist content saja.
Ini product risk.
Implementasi aturan turunannya mulai berlaku bertahap pada 28 Maret 2026 untuk platform berisiko tinggi.
Per 25 Juni 2026, Komdigi melaporkan 4,7 juta akun anak sudah dinonaktifkan oleh platform.
Angka penonaktifan besar.
Tapi pertanyaan berikutnya lebih sulit:
Setelah anak yang tidak memenuhi umur tidak punya account, bagaimana platform memperlakukan remaja yang masih boleh masuk?
Di situlah desain diuji.
Misalnya anak 16 tahun boleh punya account.
Apakah DM dari stranger default open?
Apakah live bisa aktif tanpa friction?
Apakah location mudah dibagikan?
Apakah algorithm terus mendorong content body-image ekstrem setelah satu video ditonton?
Apakah purchase button dibuat terlalu frictionless?
Apakah parental control mudah ditemukan?
Apakah night notification masih terus bunyi?
Safety tidak berhenti di pintu sign-up.
Platform bisa lolos age gate lalu tetap punya environment berisiko.
Age-appropriate design berarti mempertanyakan default.
Default sangat powerful karena kebanyakan user tidak mengubah setting.
Kalau account remaja default private, effect besar.
Kalau DM hanya dari connection tertentu, risk grooming turun.
Kalau sensitive content default dibatasi, exposure turun.
Kalau live butuh threshold usia atau approval, risk turun.
Kalau platform hanya menyediakan setting tetapi default-nya paling permisif, mereka memindahkan burden ke anak.
Design yang baik membuat safe path paling mudah.
Bukan hidden option.
Meta Teen Accounts bergerak ke arah default safety semacam ini, dengan restriction pada contact, content, dan feature tertentu untuk remaja.
Pada 2026, Meta juga memperluas setting 13+ secara global dan mengembangkan intervensi untuk exposure berulang terhadap sensitive content.
Ini contoh bagaimana child safety mulai masuk recommendation design.
Bukan hanya delete post.
Ada satu concept penting: repetition.
Satu video diet mungkin biasa.
Seratus video diet ekstrem dalam satu minggu bisa mengubah perception.
Recommendation system harus memahami cumulative exposure.
Content-by-content moderation tidak menangkap.
Masing-masing video mungkin tidak melanggar.
Aggregate effect bisa buruk.
Ini alasan desain feed penting.
Platform perlu diversity.
Frequency control.
Topic boundary.
Especially teen.
TikTok juga punya youth safety setting dan content level framework sendiri.
Setiap platform berbeda.
Tapi principle sama.
Safety at system level.
Ada juga contact design.
Grooming bukan selalu dimulai dari content publik berbahaya.
Bisa dari DM yang terlihat ramah.
“Sekolah di mana?”
“Umur berapa?”
“Kirimin foto dong.”
Kalau platform memudahkan stranger contact anak, risk berasal dari architecture.
Block dan report setelah kejadian penting.
Lebih baik kalau risky contact dicegah dari awal.
Age-aware messaging policy.
Unknown adult limit.
Photo permission.
Link restriction.
Friction.
Bukan glamorous feature.
Sangat important.
Ada juga consumer exploitation.
Anak sekarang bisa terkena pressure belanja dari game, live, virtual item, influencer, affiliate, dan limited offer.
PP TUNAS memasukkan eksploitasi anak sebagai konsumen ke assessment risk.
Ini berarti commerce design juga child safety.
Apakah harga jelas?
Apakah virtual currency membuat nilai rupiah invisible?
Apakah purchase butuh parent confirmation?
Apakah loot-like mechanic mendorong spending?
Apakah influencer disclosure jelas?
Anak tidak punya financial literacy sama dengan adult.
Desain perlu account for vulnerability.
Dark pattern ke adult sudah problematic.
Ke anak lebih serius.
Ada satu scene yang familiar buat orang tua.
Anak bilang:
“Cuma 100 diamond.”
Orang tua nanya:
“Itu rupiahnya berapa?”
Anak nggak tahu.
Design sengaja membuat value terasa game-like.
Tidak selalu malicious.
Tapi effect-nya memisahkan spending dari uang nyata.
Age-appropriate commerce seharusnya membuat cost understandable.
Rupiah jelas.
Approval.
Limit.
No manipulative countdown.
Ada juga data privacy.
Anak belum tentu memahami konsekuensi data sharing.
Location.
Contact sync.
Camera.
Microphone.
Behavior profile.
Ads personalization.
Platform perlu data minimization.
Jangan default semua permission on.
Jangan bahasa privacy yang bahkan lawyer malas baca.
Child-friendly explanation.
“Kami memakai lokasi untuk X.”
“Teman bisa melihat Y.”
Clear.
Design communication.
Bukan hanya policy page.
Ada juga sleep.
Notification tengah malam.
Streak yang takut hilang.
Event terbatas jam tertentu.
Platform punya ability membuat anak kembali.
Adiksi dalam PP TUNAS menjadi salah satu faktor risk.
Ini membuka pertanyaan:
Apakah product design sengaja membuat disengage sulit?
Infinite scroll tidak punya natural stop.
Autoplay menghilangkan decision point.
Streak memberi loss aversion.
Push notification menciptakan urgency.
Untuk adult, kita bisa debat personal responsibility.
Untuk anak, platform punya duty lebih besar.
Age-appropriate design bisa menambah stopping cue.
Bedtime setting.
Quiet hours.
Default notification yang lebih ringan.
Reminder.
No streak punishment extreme.
Bukan membuat app boring.
Membuat disengagement possible.
Ada juga algorithm transparency untuk parents.
Tidak perlu membuka source code.
Tapi parent perlu tahu jenis experience.
Feed recommendation?
Public posting?
Stranger contact?
Live?
Commerce?
Location?
User-generated game?
Apa risk?
KPAI pada 2026 mendorong implementasi PP TUNAS efektif karena risiko anak di ruang digital mencakup cyberbullying, eksploitasi seksual, grooming, pencurian identitas, dan konten berbahaya.
Orang tua tidak bisa mengerti kalau platform hanya memberi ToS.
Need simple safety center.
Bahasa Indonesia.
Examples.
Control.
Ada satu caveat: overprotection juga punya risiko.
Remaja butuh autonomy.
Community.
Creativity.
Information.
Identity exploration.
Platform tidak seharusnya membuat Teen Account seperti ruang steril tanpa agency.
Age-appropriate bukan childlike.
Anak 16 bukan anak 8.
Design harus developmental.
Age band.
Risk.
Capability.
Permen Komdigi 9/2026 menggunakan threshold dan risk classification, tetapi product design yang matang bisa lebih granular.
Tidak semua minor sama.
Ada juga accessibility.
Kalau safety control terlalu rumit, user dengan disability bisa kesulitan.
Age verification yang bias bisa salah block.
Parental control bisa disalahgunakan dalam rumah yang tidak aman.
Child safety design perlu consider edge case.
Ini alasan consultation penting.
Anak sendiri harus didengar.
Bukan hanya parent, regulator, dan platform.
Mereka tahu bagaimana fitur dipakai dan dibypass.
Design tanpa user research sering menghasilkan rule yang gampang dielakkan.
Komdigi menerima ratusan masukan publik saat menyusun aturan pelaksanaan PP TUNAS.
Bagus.
Implementation juga perlu feedback loop.
Apa workaround muncul?
Anak pindah platform?
Account pinjam orang tua?
Apakah risk benar-benar turun?
Atau cuma pindah?
Measure outcomes.
Jangan hanya count accounts disabled.
4,7 juta akun dinonaktifkan adalah indikator compliance.
Bukan otomatis bukti seluruh digital life anak lebih aman.
Kita perlu melihat exposure, incident, wellbeing, fraud, grooming, cyberbullying, sleep, and other outcomes.
Regulation yang matang mengevaluasi effect.
Platform juga.
Ada satu lesson untuk product manager di luar social media.
Kalau service bisa dipakai anak, jangan menunggu regulator menyebut nama.
Lakukan child risk assessment.
Apa feature yang berpotensi addictive?
Ada stranger interaction?
Commerce?
Location?
Sensitive data?
Generative AI chat?
Content upload?
Default?
Report?
Recovery?
Safety by design lebih murah daripada crisis.
Kita sering melihat technology company menambahkan safety setelah scandal.
2026 mulai mendorong arah sebaliknya.
Design dulu.
Risk dulu.
Launch dengan guardrail.
Ini lebih dewasa.
Platform berisiko tinggi untuk anak pada akhirnya tidak akan dinilai hanya dari berapa juta video berbahaya yang mereka hapus.
Mereka akan dinilai dari pertanyaan yang lebih uncomfortable:
Kenapa sistem membuat video itu mudah ditemukan?
Kenapa anak bisa di-DM orang asing?
Kenapa pembelian terlalu gampang?
Kenapa data dikumpulkan?
Kenapa feed tidak pernah selesai?
Kenapa setting aman bukan default?
Itulah pergeseran penting.
Content moderation bertanya:
“Konten ini boleh atau tidak?”
Safety by design bertanya:
“Kenapa produk kita menciptakan kondisi di mana risiko ini terus muncul?”
Pertanyaan kedua jauh lebih sulit.
Tapi kalau targetnya benar-benar melindungi anak, justru itu pertanyaan yang nggak boleh dihindari.
Satu area yang layak diperhatikan adalah generative AI companion untuk remaja. Risikonya bukan hanya jawaban berbahaya, tetapi attachment, waktu penggunaan, dependency, dan boundary antara bot dan manusia. Jika fitur seperti ini hadir di platform anak, age-appropriate design perlu masuk ke persona, memory, notification, dan escalation.
Safety bukan filter satu layer. Ia bentuk seluruh relationship antara produk dan anak.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Kalau design terus menciptakan risiko, moderation hanya mengepel lantai sambil keran tetap terbuka.
Bacaan terkait
Artikel ini berada dalam Social Media & Platforms dan mengikuti metodologi editorial Undercover.id. Format terkait tersedia di Explainer teknologi dan kebijakan digital.