Algoritma Rekomendasi untuk Anak Seharusnya Punya Aturan Lebih Ketat

Kalau lo buka platform video, lo mungkin merasa memilih apa yang ditonton.

Sebagian benar.

Tapi setelah video pertama, sistem mulai memilih untuk lo.

Video berikutnya.

Post berikutnya.

Creator berikutnya.

Topik berikutnya.

Recommendation system adalah mesin distribusi.

Ia menentukan apa yang mendapat perhatian.

Untuk pengguna dewasa, pengaruhnya besar.

Untuk anak, seharusnya aturan lebih ketat.

Bukan karena algoritma selalu buruk.

Recommendation membantu menemukan materi belajar, musik, creator, dan komunitas.

Masalahnya objective function platform sering bukan: “apa yang paling baik untuk perkembangan anak?”

Biasanya: apa yang membuat user terus engaged.

Watch time.

Click.

Return.

Share.

Objective ini bisa conflict dengan wellbeing.

PP TUNAS membuka ruang penting untuk membahasnya.

Walaupun aturan Indonesia saat ini tidak sesederhana satu pasal yang menyatakan semua recommender anak wajib memakai algoritma tertentu, kerangka PP TUNAS jelas bergerak ke risk-based product governance.

Kepmen Komdigi 142/2026 bahkan memasukkan infinite scroll, auto-play, gamification, dan desain impulsif sebagai indikator produk yang menarik anak.

Recommendation system adalah partner dari semua feature itu.

Feed tanpa akhir hanya powerful karena selalu ada konten berikutnya yang dipilih algoritma.

Kenapa recommender anak beda?

Anak sedang membentuk preferensi.

Identity.

Worldview.

Self-image.

Mereka lebih mudah dipengaruhi repetition dan social proof.

Kalau sistem terus merekomendasikan satu tema, anak bisa menganggap: “semua orang berpikir begini.”

Padahal itu hasil ranking.

Bukan realitas dunia.

Algorithmic amplification bisa mempersempit experience.

Rabbit hole.

Satu video diet.

Lalu body image.

Lalu extreme restriction.

Atau satu prank.

Lalu prank semakin berbahaya.

Recommendation tidak hanya mencerminkan interest.

Ia membentuk interest.

Untuk anak, feedback loop ini perlu guardrail.

Engagement tidak boleh menjadi objective tunggal

Platform bisa punya multi-objective ranking.

Engagement.

Safety.

Diversity.

Age appropriateness.

Quality.

User preference.

Untuk child account, weight safety harus lebih tinggi.

Konten yang mungkin meningkatkan watch time tapi punya risk seharusnya downrank.

Ini bukan censorship otomatis.

User masih bisa mencari sesuai aturan.

Recommendation berbeda dengan access.

Platform punya lebih besar responsibility ketika secara aktif menyodorkan konten.

Ini distinction penting.

Apa yang user cari dan apa yang system push tidak sama.

Explicit signal harus lebih kuat

Uni Eropa dalam guideline perlindungan minor di bawah DSA merekomendasikan recommender system lebih memprioritaskan explicit signals dari user, seperti apakah mereka suka atau tidak suka konten, untuk mengurangi risiko masuk rabbit hole.

Ini masuk akal.

Implicit signal sering noisy.

Anak berhenti di video karena bingung.

Algorithm membaca interest.

Anak replay karena shocking.

Algorithm membaca interest.

Tidak selalu benar.

Explicit: “not interested.”

“show less.”

“block topic.”

Harus mudah.

Dan system benar-benar respect.

Jangan tombol “not interested” cuma kosmetik.

User control perlu measurable.

Default feed anak seharusnya lebih konservatif

Jika usia diketahui, platform bisa menjalankan child-safe ranking.

No recommendation untuk kategori tertentu.

Sensitive topic limited.

Unknown contact content reduced.

No mature commercial content.

Ini lebih baik daripada hanya menghapus setelah report.

Preventive.

Safety by design.

Age-aware model.

Bukan satu feed untuk semua.

Tapi personalization untuk anak juga jangan berlebihan.

Ada trade-off privacy.

Semakin banyak data profil, semakin recommendation personal.

Child privacy membutuhkan minimization.

Mungkin recommender anak sebaiknya lebih banyak memakai context session daripada long-term profiling.

Ini area yang layak diatur.

Jangan bangun personality graph anak sejak umur 10.

Data mereka punya lifetime panjang.

Diversity perlu dimasukkan

Recommendation system punya tendency narrow.

Kalau user suka satu genre, lebih banyak genre sama.

Bagus untuk engagement.

Tapi anak butuh exposure beragam.

Education.

Culture.

Perspective.

Platform bisa introduce diversity.

Bukan random.

Controlled exploration.

Ini juga mengurangi filter bubble.

Recommender untuk anak mungkin harus punya obligation untuk menghindari excessive repetition pada harmful theme.

How exactly?

Technical standard.

Not law text.

Regulator sets outcome.

Provider designs.

Content sensitivity perlu mempertimbangkan age band

Anak 7.

12.

17.

Different.

Recommendation policy harus graduated.

Apa yang cocok 17 belum tentu 8.

Age classification already part PP TUNAS approach.

Feed should follow.

Tidak cukup child vs adult binary.

Age band.

Parent settings.

Context.

This is harder technically.

But safer.

Algorithm audit harus melihat exposure, bukan hanya takedown

Platform sering publish: “kami menghapus 1 juta konten.”

Good.

Tapi question: berapa banyak child users melihat sebelum dihapus?

Recommendation exposure matters.

One harmful video viewed 10 times beda dengan 10 million times.

Metric: impressions to minors.

Recommendation rate.

Repeat exposure.

Time to intervention.

Safety report should include distribution.

Content moderation without distribution metrics is incomplete.

Anak perlu reset recommendation

Kadang feed sudah rusak.

Salah klik beberapa video.

Algorithm stuck.

User seharusnya bisa reset.

Clear history.

Start fresh.

Bukan hanya delete account.

This gives autonomy.

Maybe parent can reset for younger child.

But child should know.

No secret manipulation.

Reset option should be obvious.

Platform bisa juga provide topic controls.

“Show less beauty content.”

“Block gambling.”

“Disable personalized feed.”

Choice.

Chronological alternative mungkin membantu

Tidak semua platform cocok.

Tapi opsi non-personalized feed bisa memberi control.

User follow account.

See posts in time order.

Less algorithmic amplification.

EU regulatory discourse juga mendorong control terhadap recommender systems.

Untuk anak, alternative mode bisa default atau easily accessible.

Again, not one-size.

But important.

Recommendation of commercial content needs stricter separation

Anak mungkin tidak memahami sponsored content.

Influencer ad looks normal.

Algorithm pushes because profitable.

Need clear label.

No exploitation of vulnerability.

Targeted advertising to children already raises significant global concern.

Indonesia should coordinate PP TUNAS with consumer and privacy law.

Recommendation is where ads and content meet.

If child can’t distinguish, design must help.

AI-generated content adds new risk

Recommendation engine can push synthetic media.

Deepfake.

AI influencer.

Fake educational video.

Child may not recognize.

Platform should combine recommender safety with provenance.

If content synthetic and high-risk topic, maybe reduce amplification until verified.

Not all AI content bad.

But fake authority can harm.

Health.

News.

Education.

Child safety needs source quality.

Algorithm should not reward sensational falsehood just because watch time high.

Mental health content needs special care

Children search: “kenapa aku jelek?”

“aku sedih.”

Recommendation can become sensitive.

Platform should avoid funneling into harmful self-harm or eating disorder content.

This is high-stakes.

Need crisis routing.

Authoritative source.

No exploitative recommendation.

This is not about diagnosing.

It’s about not amplifying.

Safety teams must work with mental health experts.

Regulator can set expectations without prescribing model architecture.

Gaming recommendation also matters

Game platforms recommend experiences.

Age rating.

Social interaction.

Monetization.

Recommendation should respect verified age.

Roblox’s 2026 adjustments in Indonesia, including age differentiation and communication restrictions, show product experiences can be segmented by age.

Recommendation should be part of same logic.

Do not recommend mature experience to child just because friends play.

Age control must flow through system.

Influencer recommendation needs attention

Children trust creators.

Parasocial.

Recommendation can repeatedly expose same influencer.

Commercial message becomes relationship.

Rules should require ad transparency and maybe limit certain high-risk commercial category.

Gambling-like.

Financial product.

Cosmetic procedure.

Age-appropriate.

This is not classic content ban.

It’s distribution governance.

Independent researchers need access to data

How do we know algorithm harms children?

Need data.

Platform holds.

Regulator and accredited researcher may need controlled access.

Privacy preserved.

Aggregated.

Secure.

Without evidence, debate becomes anecdote.

Parents say harmful.

Platform says safe.

Who knows?

Research access helps.

EU DSA has broader transparency architecture around platform risk.

Indonesia can learn.

Not necessarily copy.

But data for oversight is critical.

Algorithm changes should be tested on child safety

Platform launches ranking update.

CTR up 8 percent.

Great.

But what happens to minor exposure?

Safety regression test.

Before full rollout.

A/B test with guardrails.

No experimenting harmful content.

Metric: session length may go up.

Wellbeing signal?

Night usage?

Report?

Compulsive return?

Product science needs broader objective.

Recommendation system is not neutral infrastructure

This is key.

Platform may say: “we don’t create content.”

But algorithm decides distribution.

If system repeatedly recommends harmful material to children, design matters.

Hosting and recommending are different roles.

Regulation should reflect amplification responsibility.

Not every harmful post means platform liable.

But systemic recommendation pattern deserves scrutiny.

Algoritma Rekomendasi untuk Anak Seharusnya Punya Aturan Lebih Ketat karena anak tidak hanya memilih internet.

Internet juga memilih apa yang datang kepada anak.

Itu power.

Dan power yang bekerja miliaran kali sehari tidak bisa diperlakukan seperti tombol random.

Untuk anak, recommender should be slower to amplify, easier to control, more privacy-preserving, and more conservative around harmful topics.

Bukan berarti membuat internet anak membosankan.

Bukan juga membuat feed hanya pelajaran sekolah.

Anak tetap butuh fun.

Discovery.

Creativity.

Ada juga masalah cold start. Ketika anak baru membuat akun, platform belum tahu interest. Apa yang direkomendasikan?

Pilihan default ini sangat penting.

Kalau platform langsung mendorong konten paling viral, anak bisa masuk exposure berisiko sebelum personalization bahkan dimulai.

Child-safe cold start seharusnya memakai katalog yang sudah lebih ketat, kategori usia, dan sumber yang lebih terkurasi.

Kemudian personalization tumbuh pelan berdasarkan signal yang cukup jelas.

Tidak perlu langsung membangun profil superdetail dari setiap hover atau pause.

Regulator juga perlu memikirkan feedback loop antara creator dan recommender. Creator belajar bahwa konten ekstrem mendapat reach. Mereka lalu membuat konten lebih ekstrem. Algorithm tidak hanya memengaruhi anak, tetapi memengaruhi supply konten.

Safety intervention harus melihat ecosystem.

Kalau platform hanya menghapus video paling buruk tetapi ranking tetap memberi incentive kepada creator untuk mendekati batas, problem terus berulang.

Metric creator reward perlu diperiksa.

Untuk anak, system bisa menurunkan insentif terhadap sensationalism.

Ada pula isu fairness terhadap creator edukasi. Jika recommender terlalu mengejar watch time, content berkualitas tetapi lebih tenang kalah dari video sensasional. Child-safe objective bisa memberi ruang lebih besar ke sumber terpercaya tanpa menjadikan feed seperti buku pelajaran.

Balance antara fun dan quality harus dicari melalui testing.

Platform seharusnya punya child-specific evaluation suite sebelum setiap perubahan besar recommender diluncurkan. Uji exposure, repetition, harmful topic, night-time engagement, dan kemampuan user mengubah feed.

Kalau update meningkatkan engagement tetapi memperburuk safety metric, jangan rollout penuh.

Ini sama seperti regression testing di software.

Bedanya, yang diregresi bukan hanya bug teknis.

Juga kualitas pengalaman anak.

Tapi platform harus berhenti menganggap engagement maksimum sebagai objective universal.

Untuk pengguna yang masih tumbuh, rekomendasi terbaik tidak selalu yang membuat mereka paling sulit berhenti.