AI di Bank Akan Makin Dalam, Tapi Keputusan Risiko Harus Tetap Bisa Dijelaskan

Bank adalah tempat yang sangat cocok untuk AI.

Data banyak.

Transaksi banyak.

Pattern berulang.

Fraud detection.

Credit scoring.

AML monitoring.

Customer service.

Document processing.

Forecasting.

AI bisa membantu hampir semua.

Tapi bank juga salah satu tempat di mana keputusan algoritmik punya consequence besar.

Kredit ditolak.

Limit kartu berubah.

Transaksi diblokir.

Nasabah dianggap berisiko.

Alert fraud muncul.

Kalau keputusan seperti ini tidak bisa dijelaskan, trust cepat hilang.

Pada 2026, regulator terus menekankan model risk dan operational resilience. Bank of England memperbarui supervisory statement model risk management pada April 2026. Prinsipnya mencakup identifikasi model, governance, development, independent validation, dan mitigasi risk, termasuk model yang menggunakan machine learning.

BIS Innovation Hub juga menjalankan Project Noor untuk membantu supervisor mengevaluasi transparency, fairness, dan robustness model AI yang digunakan institusi keuangan.

Di Indonesia, OJK menerbitkan PADK Nomor 1 Tahun 2026 tentang Penyelenggaraan Teknologi Informasi oleh Bank Umum yang berlaku sejak 1 Maret 2026. Regulasi tersebut menekankan pentingnya pengelolaan risiko teknologi agar tidak mengganggu operasional dan bisnis bank.

Semua ini mengarah ke satu prinsip.

AI boleh makin dalam.

Accountability tidak boleh makin kabur.

Ambil credit scoring.

Model machine learning bisa menemukan pattern yang lebih kompleks daripada rule tradisional.

Mungkin accuracy naik.

Default risk bisa diprediksi lebih baik.

Tapi kalau nasabah ditolak, bank perlu memahami faktor utama.

Bukan berarti setiap detail internal model harus dibuka.

Tapi bank sendiri harus bisa menjelaskan logic dan risk.

Kalau model bias terhadap kelompok tertentu, harus bisa dideteksi.

Kalau data berubah, performance harus dimonitor.

Kalau vendor model update, dampaknya harus diuji.

Black box tidak boleh menjadi excuse.

Project Noor dari BIS menarik karena memang fokus pada explainable AI untuk financial supervision.

Ide dasarnya: supervisor dan bank perlu tool independen untuk melihat bagaimana model bekerja, menguji fairness, dan robustness.

Ini semakin penting karena AI digunakan pada keputusan yang berdampak ekonomi.

Explainability punya beberapa level.

Level pertama: local explanation.

Kenapa keputusan ini dibuat untuk nasabah tertentu?

Faktor apa yang paling berpengaruh?

Level kedua: global explanation.

Secara umum model belajar pattern apa?

Feature mana yang dominan?

Level ketiga: process explanation.

Data dari mana?

Model version apa?

Siapa approve?

Kapan terakhir validasi?

Semua level punya fungsi.

Bank tidak cukup hanya punya grafik SHAP di notebook data scientist.

Explanation harus masuk governance.

Risk team perlu mengerti.

Audit perlu akses.

Management perlu melihat.

Customer communication perlu wording yang sesuai.

Ada juga problem data quality.

AI model hanya sebaik data.

Kalau data historis mengandung bias, model bisa mempertahankan.

Kalau field banyak missing, model bisa membuat proxy.

Kalau kondisi ekonomi berubah, pattern lama bisa tidak relevan.

Model drift sangat penting.

Credit model yang bagus pada satu periode belum tentu bagus ketika interest rate, unemployment, atau behavior customer berubah.

Monitoring harus ongoing.

Bukan validasi sekali lalu selesai.

Bank juga semakin menggunakan generative AI.

Ini risk profile berbeda dari predictive model.

GenAI bisa merangkum dokumen.

Membantu relationship manager.

Membuat draft response.

Mencari policy.

Memproses unstructured data.

Bagus.

Tapi hallucination menjadi concern.

Untuk komunikasi nasabah, generated answer harus grounded pada policy resmi.

Jangan biarkan chatbot mengarang syarat produk.

Untuk internal assistant, source citation penting.

Employee harus bisa kembali ke dokumen bank.

AI bukan policy.

Dokumen resmi tetap policy.

Ada juga agentic AI.

Kalau agent bisa menjalankan action di banking system, risk naik lagi.

Misalnya membuat case.

Mengubah status.

Mengirim komunikasi.

Menyiapkan transfer.

Bank perlu least privilege.

Human approval.

Segregation of duties.

Audit trail.

Prinsip internal control lama tetap berlaku.

AI tidak boleh menjadi jalan pintas melewati kontrol karena “sistem otomatis”.

Justru agent harus masuk framework kontrol yang sama.

BIS pada Juni 2026 juga menekankan ICT risk management dan operational resilience bank.

AI harus dilihat sebagai bagian dari landscape teknologi.

Kalau service AI down, apa impact?

Kalau vendor cloud bermasalah?

Kalau model latency tinggi?

Ada fallback manual?

Critical operation tidak boleh bergantung tanpa resilience plan.

Third-party risk juga besar.

Banyak bank tidak membangun semua model sendiri.

Vendor menyediakan fraud tool.

Credit model.

GenAI platform.

OCR.

KYC.

Bank tetap bertanggung jawab.

Kontrak vendor harus memberi cukup access untuk audit, performance monitoring, security, dan change control.

“Model proprietary” tidak boleh berarti bank buta.

Kalau vendor tidak bisa memberi transparency minimum, risk team harus mempertanyakan.

Explainability juga penting untuk human override.

Staff bank harus tahu kapan output model boleh ditolak.

Misalnya fraud model menandai transaksi besar sebagai suspicious.

Relationship manager punya context tertentu.

Apakah override boleh?

Siapa approve?

Apakah override dicatat?

Kalau semua override dilarang, model jadi authority final.

Kalau semua boleh override tanpa log, model jadi dekorasi.

Perlu balance.

Override adalah bagian governance.

Model risk management biasanya menekankan independent validation.

Ini sangat penting untuk AI.

Tim yang membangun model cenderung percaya model.

Validation team perlu challenge.

Data.

Methodology.

Assumption.

Performance.

Bias.

Stress scenario.

Implementation.

Bukan cuma melihat AUC tinggi.

High accuracy tidak sama dengan safe decision.

Ada juga issue fairness.

Model bisa menemukan proxy untuk atribut sensitif.

Misalnya lokasi, jenis pekerjaan, atau pattern transaksi berkorelasi dengan kelompok tertentu.

Secara statistik berguna.

Secara fairness bisa problem.

Bank perlu test.

Tidak cukup menghapus satu field sensitif lalu menganggap bias hilang.

Explainable AI membantu melihat pattern.

Tapi fairness tetap membutuhkan policy manusia.

Apa yang dianggap acceptable?

Apa trade-off?

Legal dan ethical framework yang menentukan.

Customer transparency juga perlu proporsional.

Nasabah tidak perlu menerima source code.

Tapi ketika keputusan penting dibuat, bank seharusnya punya alasan yang dapat dikomunikasikan.

“Risk model bilang no” bukan alasan yang memadai.

Semakin otomatis sistem, semakin penting bahasa manusia.

Ada juga danger automation bias pada staff.

Kalau model benar 95 persen waktu, employee mulai malas challenge.

Lima persen error justru bisa lolos karena trust tinggi.

Training perlu mengajarkan calibrated trust.

Gunakan model sebagai signal.

Bukan oracle.

Untuk high-impact decision, cross-check.

Bank juga perlu model inventory.

Berapa model AI aktif?

Siapa owner?

Apa purpose?

Risk tier?

Vendor?

Data source?

Version?

Validation date?

Performance?

Kalau inventory tidak jelas, governance mustahil.

Agent dan model baru bisa muncul cepat.

Shadow AI harus dihindari.

Business team tidak boleh membeli tool lalu langsung connect data nasabah tanpa review.

OJK 2026 menekankan governance TI secara umum.

AI seharusnya masuk kerangka itu.

Tidak perlu dianggap teknologi di luar kontrol lama.

Tapi kontrol lama mungkin perlu diperluas.

Misalnya model explainability.

Prompt injection.

GenAI hallucination.

Agent identity.

Data leakage melalui context.

Ini tambahan baru.

Di Indonesia, trust pada bank sangat sensitif.

Satu kasus salah blokir atau data bocor bisa cepat viral.

AI bisa meningkatkan speed.

Tapi speed tanpa explanation akan memperbesar frustration.

Nasabah tidak peduli model canggih.

Mereka ingin masalah selesai.

Kalau rekening diblokir, mereka ingin tahu kenapa dan bagaimana memperbaiki.

Human escalation harus tetap tersedia.

Jangan semua customer journey terkunci chatbot.

Ada keputusan yang butuh manusia.

Risk decision juga perlu mempertimbangkan model limitation.

Kalau data nasabah tipis, confidence lebih rendah.

Sistem harus tahu kapan tidak cukup yakin.

Abstention adalah capability.

Model yang selalu memberi keputusan mungkin terlihat efficient.

Tapi uncertainty management lebih aman.

Bank bisa menggunakan threshold.

Low-risk otomatis.

Medium risk review.

High-risk enhanced review.

AI membantu triage.

Human mengambil keputusan sensitif.

Tidak semua harus full automation.

Pada akhirnya AI memang akan makin dalam di bank.

Ekonominya terlalu menarik.

Fraud detection lebih cepat.

Document processing lebih murah.

Customer service lebih scalable.

Risk monitoring lebih granular.

Tapi semakin dalam AI masuk, semakin kuat governance yang dibutuhkan.

Model harus bisa diidentifikasi.

Divalidasi.

Dimonitor.

Dijelaskan.

Diaudit.

Di-override sesuai policy.

Dan dimatikan jika perlu.

Bank tidak bisa berlindung di balik complexity model.

Kalau keputusan berdampak pada uang dan kehidupan nasabah, seseorang tetap harus bisa menjelaskan apa yang terjadi.

AI boleh menjadi mesin keputusan.

Accountability tetap harus punya nama manusia dan struktur organisasi.

Ada satu area yang makin penting: decision provenance. Kalau model risk menghasilkan keputusan hari ini, bank perlu tahu data, feature, model version, dan policy yang berlaku saat keputusan dibuat. Ini penting untuk complaint, audit, dan incident investigation.

Tanpa provenance, keputusan masa lalu sulit direkonstruksi.

Bayangkan nasabah komplain enam bulan kemudian.

Model sudah update tiga kali.

Data pipeline berubah.

Kalau bank tidak menyimpan trace yang cukup, explanation menjadi tebakan.

Ini reason kenapa logging dan versioning perlu dipikirkan sebagai bagian model risk, bukan sekadar IT operation.

AI di bank juga bisa digunakan untuk employee productivity, misalnya summarizing research, drafting memo, atau mencari policy. Risk-nya lebih rendah daripada credit decision, tetapi data leakage tetap concern.

Pisahkan tool consumer dan tool enterprise.

Jangan employee copy data nasabah ke chatbot publik karena lebih cepat.

Policy dan approved tooling harus jelas.

Ada juga issue model concentration. Banyak bank bisa bergantung pada provider model yang sama. Kalau satu provider punya outage atau vulnerability besar, impact bisa sistemik secara operasional.

Bank perlu contingency.

Multi-model strategy mungkin relevan untuk critical use case, atau minimal fallback non-AI.

Resilience bukan hanya server redundancy.

Dependency eksternal juga harus dipetakan.

Untuk fraud detection, explainability kadang punya tension dengan adversarial risk. Bank tidak bisa membuka seluruh rule ke publik karena fraudster bisa belajar menghindari.

Jadi transparency harus targeted.

Internal explanation cukup detail untuk governance.

Customer explanation cukup untuk fairness dan remediation tanpa membocorkan defense.

Ini nuance penting.

AI juga bisa membantu supervisor dan internal audit menemukan pattern yang sebelumnya sulit terlihat. Tetapi model audit pun harus diaudit.

Jangan membuat meta-layer di mana satu AI memeriksa AI lain lalu manusia berhenti memahami keduanya.

Human expertise tetap anchor.

Pada akhirnya bank tidak harus memilih antara innovation dan explainability. Keduanya bisa berjalan kalau architecture dan governance dirancang sejak awal.

Model yang sedikit lebih lambat tetapi bisa divalidasi mungkin lebih cocok untuk high-impact decision daripada model paling canggih yang tidak bisa dijelaskan atau dimonitor.

Di finance, performance bukan hanya accuracy.

Performance adalah accuracy plus fairness, resilience, traceability, dan control.