Masa depan klinik kemungkinan bukan dokter melawan AI.
Lebih realistis: dokter memakai AI.
AI merangkum catatan.
Menandai image.
Mencari literature.
Membantu triage.
Membuat draft.
Mengorganisasi data.
Memberi suggestion.
Model kerja seperti ini masuk akal karena masing-masing pihak punya kekuatan berbeda.
AI cepat memproses informasi.
Dokter memahami konteks klinis, pasien, trade-off, dan responsibility.
Masalahnya muncul ketika keputusan salah.
Siapa yang bertanggung jawab?
Vendor bilang dokter yang final approve.
Dokter bilang sistem merekomendasikan.
Rumah sakit bilang tool sudah lolos procurement.
Developer bilang model hanya decision support.
Pasien akhirnya berada di tengah.
Inilah kenapa kolaborasi dokter dan AI membutuhkan pembagian tanggung jawab yang jelas.
Bukan liability ping-pong.
Human-in-the-loop tidak boleh cuma slogan
Banyak produk AI kesehatan bilang:
“Keputusan final tetap di tangan dokter.”
Kedengarannya aman.
Tapi apa arti praktisnya?
Apakah dokter punya waktu untuk review?
Apakah output bisa dipahami?
Apakah source tersedia?
Apakah uncertainty ditampilkan?
Apakah dokter boleh override tanpa pressure?
Apakah organisasi menilai dokter buruk kalau terlalu sering override?
Kalau dokter hanya punya lima detik untuk klik approve, human-in-the-loop adalah formalitas.
Oversight harus meaningful.
WHO pada 2026 terus menekankan human oversight dan human verification dalam governance AI kesehatan.
Di salah satu pembahasan 2026, WHO bahkan merangkum prinsipnya secara sederhana: AI harus augment, bukan automate keputusan manusia dalam konteks health policy berisiko.
Clinical care memang punya detail sendiri, tapi prinsip responsibility-nya relevan.
Manusia harus punya kapasitas nyata untuk menilai output.
Dokter tidak bisa bertanggung jawab atas black box yang tidak bisa mereka evaluasi
Kalau system memberi recommendation:
“High risk.”
Dokter perlu tahu basisnya.
Data apa yang dipakai?
Apakah ada missing data?
Model divalidasi pada siapa?
Apa limitation?
Berapa confidence?
Apakah ada distribution shift?
Tidak semua model harus menjelaskan seluruh matematika.
Tapi clinician perlu cukup context untuk membuat independent judgement.
FDA pada Januari 2026 menerbitkan final guidance Clinical Decision Support Software di Amerika Serikat dan memberi perhatian pada apakah healthcare professional dapat secara independen meninjau dasar recommendation untuk fungsi tertentu.
Regulasi Amerika tidak otomatis berlaku di Indonesia.
Tapi konsepnya relevan.
Kalau dokter tidak punya cara memahami dasar output, mengatakan “dokter tetap bertanggung jawab” bisa tidak fair.
Responsibility harus diikuti capability.
Vendor punya tanggung jawab sendiri
Developer tidak bisa berkata:
“Ini cuma tool. Semua salah user.”
Mereka menentukan:
training data, model architecture, testing, interface, default, alert, update, documentation, security, monitoring.
Semua memengaruhi safety.
Kalau model punya bias yang sebenarnya diketahui tapi tidak diungkap, itu bukan kesalahan dokter.
Kalau software update merusak performance tanpa warning, vendor punya role.
Kalau UI membuat score terlihat terlalu authoritative, design ikut berkontribusi.
AI health developer harus punya product responsibility.
Safe intended use.
Clear limitation.
Clinical evidence.
Change management.
Incident response.
Vendor bukan penonton.
Rumah sakit juga punya responsibility
Hospital memilih tool.
Mengintegrasikan.
Memberi access.
Melatih staff.
Mendesain workflow.
Menentukan policy.
Monitoring.
Kalau rumah sakit memasang model tanpa local validation dan memaksa semua dokter memakai, masalahnya organizational.
Tidak bisa semua beban dipindah ke clinician individu.
Clinical governance committee perlu punya owner.
Siapa approve?
Siapa monitor?
Siapa menerima incident?
Siapa bisa suspend?
Siapa bicara ke vendor?
AI harus masuk quality and safety system rumah sakit.
Bukan menjadi software department IT yang tidak pernah dibahas clinical governance.
Responsibility perlu dipetakan sebelum deployment
Buat matrix.
Untuk setiap use case:
siapa membuat recommendation?
siapa review?
siapa mengambil action?
siapa accountable?
siapa monitor?
siapa menangani incident?
siapa memberi informasi ke pasien?
siapa menjaga data?
Ini mirip RACI matrix dalam project management, tapi untuk clinical AI.
Tidak perlu terlalu corporate.
Tujuannya menghilangkan ambiguity.
Kalau satu critical function punya lima orang “involved” tetapi tidak ada accountable owner, red flag.
Responsibility harus jelas sampai ke shift malam.
Bukan cuma di policy presentation.
Dokter perlu tahu kapan boleh tidak mengikuti AI
Kalau AI selalu lebih cepat dan sering benar, automation bias muncul.
Dokter mulai mengikuti secara default.
Rare error menjadi sulit terlihat.
Training harus mengajarkan limitation.
Case di mana model gagal.
Out-of-distribution input.
Poor image quality.
Population gap.
Missing data.
System unavailable.
Clinician perlu merasa aman untuk override.
Kalau organisasi menganggap override sebagai “resistance to innovation”, safety turun.
Clinical judgement harus tetap legitimate.
AI bukan supervisor dokter.
Ia tool.
Pada situasi tertentu, AI mungkin benar dan dokter salah.
Karena itu override juga perlu audit.
Bukan untuk menghukum.
Untuk belajar.
Kalau dokter sering override dan ternyata benar, model mungkin punya problem.
Kalau dokter sering override dan ternyata salah, training mungkin perlu.
Feedback loop dua arah.
Patient juga perlu tahu siapa yang bertanggung jawab
Pasien tidak harus mendapat kuliah technical AI.
Tapi untuk use case yang meaningful, transparency penting.
Apakah AI dipakai untuk membantu membaca image?
Apakah note dibuat ambient scribe?
Apakah recommendation tetap direview dokter?
Siapa yang bisa ditanya kalau ada concern?
Jangan biarkan pasien mengira:
“AI yang menentukan.”
Kalau sebenarnya doctor-led.
Atau sebaliknya, jangan menyembunyikan high-impact automation kalau secara ethics dan policy disclosure memang diperlukan.
Trust tumbuh dari mental model yang benar.
Bukan dari membuat teknologi terlihat lebih ajaib.
WHO/Europe pada Juli 2026 menyoroti gap liability yang cukup besar di negara-negara kawasan mereka
Dalam assessment WHO/Europe, hampir dua pertiga negara yang dinilai sudah menggunakan AI di diagnostics, tetapi hanya sekitar 8 persen yang memiliki liability standards khusus ketika AI gagal.
Angka itu untuk WHO European Region, bukan Indonesia.
Tapi gap-nya memberi warning global.
Deployment bisa bergerak lebih cepat daripada liability framework.
Kalau negara maju pun masih mengejar, rumah sakit dan regulator Indonesia perlu berpikir sekarang.
Jangan tunggu satu kasus besar memaksa semua orang menentukan responsibility dalam kondisi crisis.
Clinical AI harus punya escalation ladder
Tidak semua disagreement dokter versus AI sama.
Minor formatting error.
Low-risk suggestion.
Critical diagnostic conflict.
System perlu escalation berbeda.
Untuk high-risk conflict, mungkin second review.
Specialist.
Repeat test.
Alternative method.
Tergantung use case.
Jangan hanya “AI bilang X, dokter bilang Y, pilih salah satu.”
Clinical system sudah lama punya mekanisme second opinion.
AI bisa masuk ke structure itu.
Responsibility bukan berarti satu orang harus menanggung semua.
Bisa distributed.
Tapi tidak boleh diffuse sampai tidak ada yang accountable.
AI juga bisa membantu dokter mengambil keputusan lebih baik
Jangan sampai pembahasan liability membuat kita lupa benefit.
Second read.
Drug interaction alert.
Risk prediction.
Literature support.
Documentation.
Trend detection.
AI bisa mengurangi human error.
Dokter juga punya bias.
Fatigue.
Memory limit.
Cognitive overload.
Kolaborasi bisa meningkatkan safety.
Justru karena manfaatnya besar, governance perlu matang.
Kita tidak ingin tool bagus ditolak karena responsibility kabur.
Clear accountability membantu adoption.
Dokter lebih nyaman pakai kalau tahu boundary.
Pasien lebih percaya kalau tahu siapa bertanggung jawab.
Vendor lebih jelas target compliance.
Rumah sakit lebih mudah monitor.
Error perlu dilihat sebagai system event, bukan langsung individual blame
Kalau AI memberi recommendation salah lalu dokter ikut, investigasi harus melihat seluruh chain.
Data.
Model.
UI.
Training.
Workload.
Policy.
Clinical context.
Bukan langsung:
“Dokternya salah.”
Atau:
“AI-nya salah.”
Patient safety modern memakai system thinking.
Satu error biasanya punya beberapa contributing factor.
AI menambah factor baru.
Incident review harus mencakup technology.
Kalau hanya menyalahkan manusia terakhir yang klik, organization tidak belajar.
Human responsibility bukan human scapegoat.
Dokter dan AI memang akan bekerja semakin dekat.
Itu bukan prediksi sci-fi.
Sudah terjadi di documentation, imaging, decision support, dan berbagai workflow.
Pertanyaan sekarang bukan apakah kolaborasi akan ada.
Pertanyaan yang lebih penting:
bagaimana membuat kolaborasi itu punya responsibility chain yang bisa dipahami sebelum sesuatu salah?
AI boleh memberi suggestion.
Dokter boleh mengambil judgement.
Vendor harus menjamin product governance.
Rumah sakit harus membangun safe workflow.
Regulator harus menetapkan boundary.
Pasien harus punya protection.
Responsibility bisa dibagi.
Tapi tidak boleh dibuat kabur.
Karena ketika keputusan menyentuh kesehatan seseorang, “kami kira pihak lain yang bertanggung jawab” bukan jawaban yang bisa diterima.
Insurance dan payer juga bisa masuk responsibility chain dalam use case tertentu. Kalau AI dipakai untuk utilization management, prior authorization, atau reimbursement decision, governance-nya berbeda dari AI clinical note.
Keputusan administratif yang memengaruhi akses care tetap punya human consequence.
Jangan bersembunyi di balik label “non-clinical”.
Kalau output menentukan apakah pasien mendapat layanan, accountability tetap penting.
Responsibility mapping harus mengikuti impact, bukan nama department.
Kolaborasi dokter dan AI akan sehat kalau masing-masing role punya batas yang bisa dijelaskan dalam satu menit.
Kalau bahkan tim internal tidak tahu siapa mengambil keputusan terakhir dan siapa menangani failure, deployment belum matang.
Responsibility juga harus mengikuti perubahan model. Kalau vendor memperbarui model, apakah recommendation behaviour berubah? Apakah threshold berubah? Apakah evidence lama masih berlaku?
Hospital perlu version awareness.
Model yang divalidasi bulan lalu belum tentu identik dengan model setelah update besar.
Kalau clinical behaviour berubah, revalidation mungkin diperlukan sesuai risk.
Ini penting karena software AI bisa berubah lebih cepat daripada alat medis tradisional.
Change management bukan pekerjaan IT kecil.
Ia bagian patient safety.
Dokter juga perlu dilibatkan ketika policy dibuat. Jangan semua rule turun dari legal dan IT tanpa melihat real workflow. Kalau policy terlalu sulit dipakai saat clinic sibuk, staff akan mencari shortcut.
Governance yang efektif harus bisa hidup di dunia nyata.
Apa yang dokter lihat?
Berapa detik untuk review?
Bagaimana override?
Bagaimana melaporkan error?
Bagaimana meminta second opinion?
Pertanyaan itu hanya terlihat kalau clinician ikut design.
Responsibility yang jelas bukan membuat innovation lambat.
Justru sebaliknya.
Kalau semua pihak tahu batas, pilot lebih mudah dijalankan.
Vendor tahu requirement.
Dokter tahu kapan aman memakai.
Hospital tahu kapan harus stop.
Pasien tahu siapa yang bisa dimintai penjelasan.
Clarity mempercepat trust.
Dan trust adalah syarat utama clinical adoption.
Bacaan terkait
Artikel ini berada dalam HealthTech & Digital Health dan mengikuti metodologi editorial Undercover.id. Format terkait tersedia di Explainer teknologi dan kebijakan digital.