Masalahnya sering dimulai dari niat baik

Dokter tidak selalu memasukkan data ke AI karena ceroboh.

Sering justru karena sedang mencoba bekerja lebih efisien.

Meringkas riwayat panjang.

Membuat draft surat.

Menerjemahkan istilah.

Menyusun patient-friendly explanation.

Merangkum guideline.

Membuat discharge instruction.

Semua task itu masuk akal.

Beban administrasi dokter memang real.

Studi tentang ambient AI scribe juga menunjukkan potensi pengurangan beban dokumentasi pada setting tertentu.

Jadi solusi yang realistis bukan bilang, “dokter jangan pakai AI sama sekali.”

Larangan total mudah ditulis.

Sulit dijalankan.

Kalau tool resmi tidak tersedia sementara kebutuhan tinggi, shadow AI muncul.

Orang memakai account pribadi.

Copy-paste lewat browser.

Upload PDF.

Tidak ada log.

Tidak ada governance.

Justru lebih berbahaya.

Rumah sakit harus memberi jalur resmi yang aman.

Pertanyaan pertama bukan “AI-nya pintar nggak?”

Pertanyaan pertama harus:

“Data pergi ke mana?”

Ini bagian yang sering dilewatkan ketika demo vendor terlihat keren.

Model bisa merangkum catatan sangat bagus.

Tapi siapa yang memproses?

Apakah data dikirim ke server cloud?

Di negara mana?

Apakah input disimpan?

Berapa lama?

Apakah dipakai untuk training?

Apakah ada subprocessor?

Bisa dihapus?

Siapa yang punya access?

Apakah ada audit log?

Bagaimana kalau account staf bocor?

Apakah data dienkripsi saat transit dan saat disimpan?

Pertanyaan ini boring.

Tetap wajib.

Di health AI, architecture data lebih penting daripada slide demo.

Rumah sakit tidak cukup mengandalkan klaim vendor “secure” atau “enterprise grade”.

Perlu due diligence.

Tool consumer dan tool enterprise bukan hal yang sama

Banyak dokter pertama kali kenal AI dari chatbot consumer.

Interface familiar.

Cepat.

Kualitas jawaban bagus.

Lalu muncul instinct: kalau bisa dipakai untuk email, mungkin bisa dipakai untuk clinical note.

Belum tentu.

Satu provider AI bisa punya produk consumer dan enterprise dengan policy data berbeda.

Ada setting yang mungkin memberi control lebih kuat.

Ada environment dengan no-training commitment tertentu.

Ada deployment private.

Ada integration melalui API.

Ada local processing.

Tidak boleh digeneralisasi.

Rumah sakit perlu menyetujui produk, konfigurasi, dan use case secara spesifik.

Bukan hanya nama brand tool.

Kalimat “boleh pakai AI X” terlalu luas.

Boleh untuk apa?

Dengan jenis data apa?

Menggunakan akun apa?

Melalui sistem mana?

Policy harus operational.

Data minimization harus menjadi default

Walaupun tool sudah approved, bukan berarti semua data pasien boleh dilempar masuk.

Masukkan yang memang dibutuhkan.

Kalau task hanya memperbaiki bahasa surat umum, mungkin tidak perlu nama pasien.

Kalau merangkum chronology, identifier tertentu mungkin bisa dihapus.

Kalau butuh literature search, data pasien mungkin sama sekali tidak diperlukan.

Prinsip data minimization sederhana:

jangan kirim lebih banyak data daripada yang dibutuhkan untuk fungsi tersebut.

Ini juga mengurangi blast radius jika terjadi incident.

Rumah sakit bisa membuat klasifikasi use case.

Hijau: tidak ada data pasien.

Kuning: data terdeidentifikasi atau data terbatas.

Merah: identifiable clinical data.

Semakin merah, semakin ketat approval dan kontrolnya.

Dokter tidak seharusnya menebak sendiri setiap kali.

Rule harus jelas.

De-identification juga punya batas

Menghapus nama bukan berarti data otomatis anonymous.

Bayangkan kasus langka.

Umur spesifik.

Tanggal operasi.

Lokasi.

Profesi.

Diagnosis jarang.

Kombinasi detail bisa membuat orang tetap dapat dikenali.

Jadi de-identification harus dipahami sebagai proses, bukan sekadar hapus nama dan nomor rekam medis.

Untuk use case serius, privacy atau data governance team perlu menentukan standar.

Kalau hanya membutuhkan contoh bahasa, pakai synthetic data.

Kalau task bisa selesai tanpa informasi nyata, jangan pakai data nyata.

Ini prinsip yang sangat basic.

Tapi justru basic discipline yang mencegah banyak masalah.

Rumah sakit harus membedakan inference dan training

Ada dua pertanyaan yang sering tercampur.

Apakah data digunakan untuk menghasilkan output sekarang?

Dan apakah data digunakan untuk melatih atau meningkatkan model setelah itu?

Itu dua tujuan berbeda.

Governance harus membedakan.

Patient data yang dikirim untuk inference tidak otomatis boleh digunakan untuk secondary purpose.

Purpose limitation penting.

Vendor contract harus jelas.

Kalau ada retention untuk monitoring atau abuse detection, rumah sakit perlu memahami.

Kalau data disimpan untuk debugging, berapa lama?

Kalau model fine-tuning menggunakan data internal, bagaimana consent, legal basis, de-identification, dan access control?

Tidak boleh ada assumption.

Clinical workflow butuh audit trail

Kalau AI membantu membuat note, harus jelas bagian mana yang dibuat machine dan siapa yang review.

Bukan untuk menyalahkan dokter.

Untuk traceability.

Misalnya enam bulan kemudian ditemukan error recurring.

Rumah sakit perlu tahu:

versi model apa, tanggal, use case, jenis input, siapa reviewer, output mana yang dikoreksi.

Tanpa log, quality improvement sulit.

AI clinical system harus bisa diaudit seperti sistem kritis lain.

Audit log juga membantu security.

Siapa mengakses data?

Dari device mana?

Jam berapa?

Apakah download dilakukan?

Ini bukan paranoia.

Healthcare punya confidentiality obligation.

Dokter tetap harus review output

Tool approved tidak berarti output otomatis benar.

AI bisa salah ringkas.

Menghilangkan detail.

Mengubah chronology.

Salah membaca singkatan.

Menggabungkan informasi dua bagian.

Menambahkan sesuatu yang tidak ada.

Kalau output masuk medical record tanpa review, error bisa menjadi official clinical data.

Ini berbahaya karena error berikutnya bisa diwarisi sistem lain.

Dokter harus tetap accountable terhadap note yang ditandatangani.

Rumah sakit perlu menentukan workflow review.

Bukan sekadar disclaimer.

Misalnya AI menghasilkan draft.

Clinician membaca.

Edit.

Confirm.

Baru masuk record.

Kalau system memungkinkan auto-save tanpa review, design perlu dipertanyakan.

AI documentation paling kuat ketika mengurangi typing, bukan menghilangkan responsibility.

Ambient AI scribe menunjukkan potensi nyata

Studi JAMA Network Open yang dipublikasikan pada 2025 mengevaluasi penggunaan ambient AI scribes pada 263 physician dan advanced practice practitioner di enam health system di Amerika Serikat.

Setelah 30 hari penggunaan, studi tersebut melaporkan perbaikan pada sejumlah indikator seperti administrative burden, waktu dokumentasi setelah jam kerja, dan burnout di kelompok yang diteliti.

Ini promising.

Tapi bukan berarti setiap rumah sakit akan mendapat hasil sama.

Study setting.

Specialty.

Workflow.

Vendor.

Population.

Integration.

Semua memengaruhi.

Rumah sakit Indonesia perlu pilot sendiri.

Ukur time saved.

Correction rate.

Clinician satisfaction.

Patient concern.

Error.

Security issue.

Jangan cuma beli karena demo global.

Policy juga harus mencakup siapa yang boleh pakai

Dokter.

Perawat.

Coder.

Admin.

Researcher.

IT.

Vendor support.

Semua punya access berbeda.

Role-based access penting.

Tidak semua staf perlu melihat seluruh medical record.

AI integration jangan memperluas privilege tanpa sengaja.

Kalau tool dibuat mudah dipakai tetapi semua user bisa mengakses data lintas department, itu design problem.

Least privilege harus berlaku.

User hanya melihat data yang memang diperlukan untuk pekerjaannya.

AI tidak menjadi bypass atas sistem permission rumah sakit.

Training staf lebih penting daripada memo larangan

Policy PDF yang tidak pernah dibaca tidak membantu.

Staff perlu training practical.

Contoh:

boleh memasukkan apa, tidak boleh memasukkan apa, tool resmi mana, cara redact, cara review output, cara melaporkan error, apa yang dilakukan kalau salah kirim data, kapan harus eskalasi.

Scenario lebih efektif daripada bahasa legal.

“Boleh nggak upload foto hasil lab ke chatbot ini?”

“Boleh nggak minta AI bikin discharge summary?”

“Boleh nggak pakai akun pribadi?”

Pertanyaan sehari-hari harus punya jawaban.

Policy yang tidak bisa dipakai di shift sibuk bukan policy yang bagus.

Patient trust juga dipertaruhkan

Bayangkan pasien tahu seluruh percakapannya dengan dokter dikirim ke tool yang tidak pernah mereka dengar.

Walaupun technically legal dalam setting tertentu, perception bisa jadi buruk kalau transparency lemah.

Rumah sakit perlu memikirkan communication.

Apakah pasien perlu diberi tahu?

Dalam use case mana?

Apakah ada pilihan?

Apa yang dijelaskan?

Jangan menenggelamkan orang dalam jargon model.

Cukup meaningful.

“Teknologi AI digunakan untuk membantu dokumentasi, dan catatan tetap direview tenaga kesehatan.”

Kalimat seperti itu lebih manusiawi.

Detail legal tergantung use case dan aturan yang berlaku.

Yang penting trust tidak dibangun lewat surprise.

AI policy harus hidup, bukan sekali jadi

Model berubah.

Vendor update.

Regulasi berubah.

Use case baru muncul.

Hari ini cuma summarization.

Besok imaging.

Lusa agent yang bisa mengambil action.

Policy harus versioned.

Review periodik.

Ada owner.

Ada channel untuk request use case baru.

Ada process assessment.

Jangan buat policy terlalu kaku sampai orang mencari jalan belakang.

Governance yang baik memberi jalan aman untuk innovation.

WHO pada 2026 berulang kali menekankan bahwa AI adoption kesehatan berjalan cepat sementara governance tertinggal di banyak negara.

Pesannya relevan untuk level rumah sakit.

Jangan tunggu tool sudah dipakai seluruh staf baru membuat aturan.

Aturan harus datang sebelum habit liar terbentuk.

Rumah sakit tidak perlu anti-AI.

Justru harus sangat pro-use-case yang jelas.

AI untuk documentation?

Bisa.

Untuk patient education?

Mungkin.

Untuk diagnosis?

Butuh evidence dan governance jauh lebih tinggi.

Untuk data identifiable?

Hanya di environment yang memang approved dan sesuai rule.

Pertanyaan kuncinya bukan “boleh AI atau tidak?”

Pertanyaannya:

AI apa, untuk tugas apa, menggunakan data apa, di environment mana, siapa yang review, dan siapa yang bertanggung jawab.

Kalau enam jawaban itu belum jelas, jangan jadikan data pasien bahan eksperimen.

Healthcare bisa mendapat leverage dari AI.

Tapi leverage tanpa governance cuma memperbesar risiko.

Dan ketika yang dipertaruhkan adalah data kesehatan seseorang, “nanti kita rapikan policy” bukan standar yang cukup.