Hak Pengguna Saat AI Salah: Koreksi, Banding, atau Ganti Rugi?

Bayangin lo daftar layanan finansial lewat aplikasi.

Semua data sudah masuk.

Beberapa detik kemudian muncul keputusan: “Permohonan tidak dapat diproses.”

Tidak ada alasan jelas.

Customer service bilang keputusan dibuat otomatis oleh sistem.

Lo tahu data penghasilan yang dipakai ternyata salah.

Pertanyaannya: hak lo apa?

Bisa koreksi?

Bisa minta manusia review?

Bisa banding?

Kalau rugi, bisa minta ganti rugi?

Ini bukan lagi skenario futuristik.

AI dan automated decision makin sering masuk proses bisnis, mulai dari fraud detection, recommendation, customer scoring, sampai screening.

Indonesia sebenarnya sudah punya beberapa lapisan hak yang relevan, terutama melalui UU Pelindungan Data Pribadi dan UU Perlindungan Konsumen.

Tapi jangan disederhanakan seolah ada satu tombol universal “banding AI”.

Haknya tergantung konteks.

Mulai dari hak paling basic: koreksi data

UU PDP memberi subjek data hak untuk melengkapi, memperbarui, dan memperbaiki kesalahan atau ketidakakuratan data pribadi tentang dirinya.

Ini sangat penting.

Karena AI sering salah bukan karena modelnya “bodoh”.

Input-nya salah.

Alamat lama.

Status pekerjaan belum update.

Nama terduplikasi.

Penghasilan tidak akurat.

Kalau data salah, keputusan bisa salah.

Jadi sebelum debat soal algoritma, cek datanya.

Perusahaan harus punya mekanisme koreksi.

Bukan customer service yang bilang: “data dari sistem, kami tidak bisa ubah.”

Kalau memang data pribadi tentang pengguna tidak akurat, UU PDP memberi basis hak untuk memperbaiki.

Untuk sistem AI, correction path harus menjadi bagian product design.

User tidak seharusnya butuh kirim email ke lima departemen.

Kedua: hak untuk keberatan terhadap keputusan otomatis

Ini lebih spesifik.

Pasal 10 UU PDP memberi hak kepada subjek data untuk mengajukan keberatan atas tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk profiling, ketika keputusan itu menimbulkan akibat hukum atau dampak signifikan.

Kalimat “hanya didasarkan” penting.

Kalau AI hanya memberi rekomendasi, lalu manusia benar-benar melakukan review independen, situasinya berbeda dari keputusan full otomatis.

Tapi jangan manipulasi label.

Kalau manusia cuma klik approve tanpa membaca, secara praktis sistem tetap sangat otomatis.

Governance harus melihat real process.

Bukan wording SOP.

Ketiga: hak objection tidak identik dengan hak banding universal

Ini nuance yang penting.

UU PDP memang memberi hak keberatan terhadap automated decision dalam kondisi tertentu.

Tapi jangan langsung diterjemahkan: “semua keputusan AI di Indonesia punya proses banding khusus.”

Belum tentu.

Mekanisme detail sangat tergantung jenis layanan dan regulasi sektor.

Bank punya jalur complaint sendiri.

Pelayanan publik punya upaya administratif.

Konsumen punya mekanisme sengketa.

Employment punya hukum ketenagakerjaan.

Jadi kata “banding” harus dipakai hati-hati.

Yang lebih tepat: pengguna harus punya jalur challenge.

Bentuknya bisa: objection, complaint, manual review, administrative appeal, dispute resolution, atau gugatan.

Context matters.

Keempat: pengguna berhak tahu informasi dasar

UU PDP juga memberi hak mendapatkan informasi tentang identitas pihak yang meminta data, dasar kepentingan hukum, tujuan permintaan dan penggunaan data, serta akuntabilitas pihak yang meminta data.

Untuk AI, ini sangat relevan.

Kalau data lo dipakai membuat keputusan, perusahaan seharusnya tidak menyembunyikan semua proses di balik kata “algorithm”.

User perlu tahu cukup banyak untuk memahami konteks.

Apakah data dipakai profiling?

Apakah keputusan otomatis?

Tujuan pemrosesan apa?

Siapa pengendalinya?

Tidak harus membuka source code.

Tapi harus ada transparency yang meaningful.

Kelima: hak konsumen tetap berlaku walaupun AI yang salah

UU Perlindungan Konsumen tidak berhenti berlaku karena perusahaan memakai model AI.

Konsumen punya hak atas informasi yang benar, jelas, dan jujur mengenai barang atau jasa.

Punya hak untuk didengar keluhannya.

Punya hak memperoleh upaya penyelesaian sengketa.

Dan dalam kondisi yang memenuhi ketentuan, ada hak atas kompensasi, ganti rugi, atau penggantian.

Jadi perusahaan tidak bisa berkata: “itu output AI, bukan keputusan kami.”

Customer membeli jasa dari perusahaan.

Perusahaan yang memilih sistem.

Kalau penggunaan AI menyebabkan layanan tidak sesuai, jalur perlindungan konsumen tetap relevan.

AI bukan liability shield.

Keenam: ganti rugi tidak otomatis hanya karena AI salah

Ini juga penting.

Model salah belum tentu langsung berarti pengguna mendapat uang.

Harus dilihat: ada kerugian apa, ada pelanggaran apa, siapa bertanggung jawab, apa hubungan sebab akibat.

UU PDP memberi hak menggugat dan menerima ganti rugi atas pelanggaran pemrosesan data pribadi sesuai ketentuan peraturan perundang-undangan.

UU Perlindungan Konsumen juga mengatur tanggung jawab pelaku usaha terhadap kerugian konsumen.

Tapi setiap kasus factual.

Chatbot salah rekomendasi restoran tidak sama dengan sistem salah menolak transaksi penting.

Kerugian harus nyata dan punya basis hukum.

Jangan menjadikan istilah AI sebagai shortcut analisis.

Ketujuh: perusahaan harus menyediakan manual review untuk keputusan signifikan

Ini mungkin belum menjadi satu kewajiban universal dalam semua situasi AI.

Tapi secara governance sangat masuk akal.

Kalau keputusan punya dampak besar, user perlu manusia.

Contoh: akun diblok. kredit ditolak. klaim ditolak. transaksi dibekukan. layanan dihentikan.

AI bisa menjadi filter awal.

Final dispute harus punya manusia yang punya authority.

Bukan chatbot lain.

Dan manual review harus meaningful.

Reviewer melihat data.

Bisa override.

Bisa memberi alasan.

Kalau reviewer cuma mengulang output sistem, bukan review.

Kedelapan: explanation harus actionable

User tidak butuh kuliah machine learning.

Jawaban: “model memberi score 0,42” tidak membantu.

Yang berguna: permohonan ditolak karena data X tercatat Y dan faktor Z tidak memenuhi syarat.

Kalau X salah, user bisa koreksi.

Kalau rule salah diterapkan, bisa challenge.

Explanation yang baik memungkinkan action.

Ini juga mengurangi complaint.

User sering marah bukan hanya karena hasilnya tidak sesuai.

Karena tidak tahu kenapa.

Black box menciptakan rasa powerless.

Kesembilan: perusahaan perlu menyimpan decision trace

Kalau user komplain dua bulan kemudian, organisasi harus bisa reconstruct.

Model version.

Data yang dipakai.

Rule.

Output.

Human review.

Tanpa log, complaint tidak bisa diselesaikan dengan fair.

Perusahaan cuma berkata: “sekarang sistemnya sudah berbeda.”

Itu tidak cukup.

Traceability sangat penting untuk high-impact AI.

Bukan untuk surveillance.

Log secukupnya.

Data minimization tetap berlaku.

Tapi keputusan material perlu evidence.

Kesepuluh: complaint harus menjadi input perbaikan model

Kalau 100 pengguna mengeluhkan pola sama, jangan treat sebagai 100 case terpisah.

Mungkin ada systemic issue.

Salah data mapping.

Bias.

Threshold.

Bug.

Complaint analytics perlu masuk model monitoring.

Customer service adalah sensor.

Mereka melihat failure sebelum data science team.

Sayangnya banyak organisasi memisahkan complaint dan AI engineering.

Tiket selesai satu per satu.

Root cause tidak pernah naik.

Ini waste.

Governance yang matang membuat feedback loop.

Kesebelas: pengguna jangan dipaksa membuktikan cara model bekerja

Kalau perusahaan punya sistem internal, evidence terbesar ada di perusahaan.

User tidak tahu model version.

Tidak tahu threshold.

Tidak tahu input.

Jadi proses dispute jangan menaruh burden absurd ke pengguna: “buktikan algoritma kami salah.”

User cukup menunjukkan outcome dan fakta yang tidak benar.

Perusahaan kemudian investigate.

Asymmetry informasi perlu diakui.

Kalau tidak, hak keberatan hanya formal.

Kedua belas: automated decision harus punya boundary

Tidak semua keputusan layak otomatis penuh.

Low impact: fine.

High impact: human checkpoint.

Perusahaan perlu inventory.

Use case mana otomatis.

Mana advisory.

Mana prohibited.

Jangan menunggu complaint.

Design upfront.

Ini juga membantu compliance dengan UU PDP karena automated decision berisiko tinggi termasuk area yang memang perlu perhatian lebih, dan UU PDP juga mewajibkan penilaian dampak untuk pemrosesan data yang berpotensi risiko tinggi, termasuk automated decision yang punya akibat hukum atau dampak signifikan.

Ketiga belas: data privacy authority akan penting

Per Juli 2026, pemerintah masih memfinalisasi pembentukan otoritas pelindungan data pribadi yang independen.

Artinya enforcement infrastructure masih berkembang.

Perusahaan jangan menggunakan fase transisi ini sebagai alasan wait-and-see.

Hak dalam UU PDP sudah ada.

Governance perlu dibangun sekarang.

Ketika authority semakin operasional, organisasi yang sudah punya data map, complaint process, dan automated decision register akan jauh lebih siap.

Keempat belas: sektor high-impact seharusnya punya SLA complaint

Kalau keputusan menyangkut uang atau layanan penting, complaint tidak boleh masuk black hole.

Berapa lama acknowledgement?

Berapa lama manual review?

Siapa escalation?

SLA membuat hak menjadi usable.

Kalau review butuh tiga bulan, manfaatnya kecil.

Khusus transaksi yang urgent, temporary remedy mungkin perlu.

Contoh: akun salah freeze.

Jangan menunggu investigasi panjang untuk membuka akses dasar jika evidence cukup.

Design user protection.

Kelima belas: user juga punya tanggung jawab

Hak bukan berarti sistem selalu salah.

User perlu memberi data benar.

Mengikuti prosedur.

Tidak memanipulasi.

Kalau kerugian terjadi karena input palsu, analisis tanggung jawab berubah.

Governance harus fair.

AI provider bukan selalu pihak salah.

Company bukan selalu salah.

User bukan selalu benar.

Evidence menentukan.

Hak pengguna saat AI salah akhirnya bukan satu pilihan antara koreksi, banding, atau ganti rugi.

Bisa bertahap.

Pertama, koreksi data.

Kedua, challenge keputusan otomatis.

Ketiga, minta review manusia melalui kanal yang tersedia.

Keempat, gunakan jalur sengketa yang relevan jika masalah tidak selesai.

Kelima, jika ada pelanggaran dan kerugian yang memenuhi dasar hukum, kompensasi atau ganti rugi bisa menjadi isu.

Yang paling penting adalah satu prinsip.

Pengguna tidak boleh berhadapan dengan kalimat: “komputer sudah memutuskan, tidak ada yang bisa kami lakukan.”

Ada satu hal lain yang penting: perusahaan perlu memisahkan complaint biasa dan appeal terhadap automated decision. Complaint bisa soal service lambat. Appeal menyentuh keputusan substantif. Kalau dua-duanya masuk queue yang sama, kasus penting bisa tenggelam.

Untuk high-impact use case, buat reason code dan jalur eskalasi khusus. Ketika user menekan “saya tidak setuju dengan keputusan ini”, sistem tidak hanya membuat ticket generik. Ia mengirim ke reviewer yang punya authority dan context.

Perusahaan juga harus hati-hati menggunakan AI untuk menjawab appeal terhadap keputusan AI. Boleh membantu merangkum, tetapi final review sebaiknya tidak kembali sepenuhnya ke mesin yang serupa. Kalau model pertama salah lalu model kedua hanya mengamini, user masuk loop otomatis.

Independence matters. Setidaknya ada manusia yang bisa melihat evidence baru dan menilai ulang tanpa terikat recommendation awal.

AI boleh membantu perusahaan mengambil keputusan.

Tapi perusahaan tetap harus menyediakan manusia, proses, dan tanggung jawab di belakang keputusan itu.