Transparansi Model AI Tidak Berarti Membuka Semua Rahasia Dagang

Setiap kali ada pembicaraan soal AI transparency, dua kubu cepat muncul.

Kubu pertama: “Semua model harus dibuka.”

Kubu kedua: “Tidak bisa, rahasia dagang.”

Dua-duanya terlalu ekstrem.

Transparansi tidak harus berarti perusahaan mengunggah source code, model weights, dataset lengkap, prompt internal, dan semua rahasia engineering ke internet.

Tapi rahasia dagang juga tidak boleh menjadi alasan untuk membuat sistem high-impact sepenuhnya black box.

Kita butuh middle layer.

Informasi yang cukup untuk user, auditor, buyer, dan regulator menjalankan tugas masing-masing.

Tanpa memaksa provider memberikan seluruh IP ke publik.

EU AI Act memberi contoh menarik.

High-risk system harus cukup transparan agar deployer dapat menginterpretasikan output dan menggunakan sistem secara tepat.

Provider perlu memberi informasi tentang capability, limitation, dan human oversight.

Di sisi lain, regulasi juga punya ketentuan confidentiality untuk melindungi intellectual property, confidential business information, trade secrets, termasuk source code dalam konteks tertentu.

Ini menunjukkan transparency dan trade secret bukan binary.

Bisa coexist.

Pertama: user tidak butuh source code

Kalau user ngobrol dengan chatbot bank, apa yang perlu mereka tahu?

Bahwa mereka berbicara dengan AI.

Batasannya.

Kapan harus bicara dengan manusia.

Bagaimana data dipakai.

Kalau chatbot salah, ke mana komplain.

User tidak perlu GitHub repository.

Source code tidak membantu.

Transparency harus useful.

Kalau disclosure terlalu teknis, user malah bingung.

“Model kami memakai mixture-of-experts dengan sparse activation.”

Terus?

Yang relevan: apakah jawaban financial advice final? apakah human review tersedia? apakah data disimpan?

Transparency is audience-specific.

Kedua: buyer enterprise butuh detail lebih banyak

Perusahaan yang membeli AI perlu tahu lebih dari user umum.

Model provider. Data handling. Security. Retention. Training policy. Known limitation. Performance. Subprocessor. Change management.

Mereka tidak selalu butuh model weights.

Tapi perlu cukup untuk risk assessment.

Kalau vendor bilang: “proprietary, tidak bisa menjelaskan apa pun,” itu red flag.

Terutama kalau AI masuk HR, finance, healthcare, atau government.

Enterprise buyer punya liability.

Mereka tidak bisa outsource ignorance.

Ketiga: auditor butuh evidence

Auditor perlu melihat: test result, dataset evaluation, risk assessment, logs, incident, model version.

Mungkin akses terbatas.

NDA.

Secure room.

Tidak perlu public.

Ini level transparency lain.

Independent audit memungkinkan provider menjaga trade secret tetapi tetap ada verification.

Kita sudah melakukan ini di banyak industri.

Bank tidak publish seluruh security architecture.

Tapi auditor bisa inspect.

AI bisa begitu.

Keempat: regulator harus punya authority lebih besar

Kalau sistem high risk, regulator perlu akses cukup untuk enforcement.

Provider tidak boleh menolak semuanya dengan alasan rahasia dagang.

Tapi regulator juga harus punya confidentiality obligation.

EU AI Act Article 78 adalah contoh bagaimana authority diwajibkan menjaga confidential business information dan trade secrets saat menjalankan tugas.

Indonesia bisa membangun balance serupa.

Regulator mendapat access.

Informasi dilindungi.

Tidak otomatis public.

Ini melindungi safety dan innovation.

Kelima: model card adalah middle ground

Provider bisa publish model card.

Isi: intended use, limitation, performance, safety evaluation, known risk.

Tidak perlu weights.

Model card membantu public understanding.

Tapi jangan berubah marketing brochure.

Harus substantive.

Kalau semua limitation ditulis: “AI can make mistakes,” terlalu generik.

Sebut area.

Bahasa tertentu.

Visual counting.

High-stakes advice.

Tool use.

Model card harus membantu keputusan.

Bukan legal shield.

Keenam: system card bisa lebih relevan daripada model card

User sebenarnya memakai sistem.

Model + prompt + tools + retrieval.

Risk muncul dari integration.

Jadi system transparency penting.

Model yang sama bisa aman di satu product.

Berbahaya di product lain.

System card menjelaskan: tools, permission, guardrail, human oversight.

Untuk agentic AI, ini critical.

Model mungkin hanya salah memberi rencana.

Tool yang membuat rencana menjadi action.

Transparency harus melihat seluruh chain.

Ketujuh: dataset transparency tidak harus dump seluruh dataset

Training dataset bisa sangat besar.

Ada copyright. Privacy. Security.

Memublikasikan semua data bisa justru illegal.

Tapi provider bisa memberi summary.

Source categories. Licensed data. Public web. Synthetic. User data.

Copyright policy.

Opt-out mechanism.

Komdigi pada 2026 sendiri menyorot pentingnya fairness ketika konten publik Indonesia digunakan untuk melatih AI global.

Transparency data menjadi policy issue.

Bukan berarti semua URL harus diumumkan.

Tapi “kami tidak bisa memberi informasi apa pun” makin sulit diterima.

Kedelapan: trade secret punya fungsi ekonomi

Kita jangan demonize.

Perusahaan investasi miliaran dalam: training technique, infrastructure, data cleaning, optimization.

Kalau semua wajib dibuka, incentive innovation bisa turun.

Competitor bisa copy.

Cybersecurity risk juga.

Source code publik tidak selalu membuat sistem lebih aman.

Ada responsible disclosure.

Controlled access.

Jadi law harus melindungi IP legitimate.

Transparansi bukan expropriation.

Kesembilan: tetapi trade secret tidak boleh melindungi misconduct

Kalau model diskriminatif, provider tidak bisa bilang: “tidak boleh audit, proprietary.”

Kalau sistem pemerintah merugikan warga, negara harus punya cara investigate.

Trade secret punya batas ketika fundamental rights atau legal enforcement dipertaruhkan.

Mekanismenya: regulator access, independent expert, protective order, confidential review.

Bukan public dump.

Ini kompromi hukum yang sudah familiar di litigation.

AI tidak membutuhkan konsep entirely baru.

Kesepuluh: public disclosure harus proportional

Ada informasi yang memang layak publik.

Apakah AI dipakai.

Purpose.

High-level capability.

Known limitation.

Contact.

Ada informasi yang tidak perlu publik.

Security key. Weights. Detailed vulnerability. Sensitive dataset.

Klasifikasi disclosure penting.

Public. Customer. Auditor. Regulator.

Four layers.

Setiap layer beda.

Ini bisa menjadi framework Indonesia.

Kesebelas: transparency juga soal perubahan

Vendor memberi dokumentasi saat kontrak.

Enam bulan kemudian model berubah.

Kalau tidak ada notification, transparency basi.

Material change perlu disclosure.

Model version. Capability. Data policy. Subprocessor.

Tidak semua patch.

Tapi perubahan yang memengaruhi risk.

Enterprise user perlu tahu.

Regulator high-risk mungkin perlu tahu.

Transparency harus lifecycle.

Kedua belas: explainability bukan sama dengan transparency

Ini dua konsep dekat tetapi beda.

Transparency: informasi tentang sistem.

Explainability: kemampuan memahami output atau keputusan.

Provider bisa transparan tentang arsitektur tetapi output tetap sulit dijelaskan.

Atau model black box tetapi sistem bisa memberi reason yang cukup untuk keputusan tertentu.

High-impact use case butuh keduanya dalam proporsi.

User: reason.

Auditor: system info.

Jangan campur.

Ketiga belas: open source bukan otomatis transparent secara governance

Model weights open.

Great.

Tapi training data mungkin tidak jelas.

Deployment bisa punya hidden prompt.

Tool access unknown.

User data logging unknown.

Jadi open weights bukan full transparency.

Sebaliknya closed model bisa punya dokumentasi governance sangat baik.

Openness dan accountability related tetapi tidak identical.

Jangan pakai label sebagai shortcut.

Keempat belas: transparency punya cost

Membuat documentation, audit, evaluation butuh uang.

Kalau semua startup diwajibkan seperti Big Tech, competition terganggu.

Risk-based transparency lagi.

High-impact: strong.

Low-risk: light.

Provider besar: capacity lebih tinggi.

SME: proportional.

Tapi size bukan excuse untuk high-risk harm.

Kalau startup membuat medical AI, standard tetap tinggi.

Support compliance.

Template.

Sandbox.

Kelima belas: Indonesia perlu confidential regulator capability

Kalau regulator meminta detail teknis, mereka harus bisa menjaganya.

Leak dari regulator bisa merusak industry trust.

Maka governance authority penting.

Access control. Confidentiality. Conflict of interest.

Technical staff.

Secure handling.

Transparansi dua arah.

Perusahaan membuka informasi.

Regulator punya kewajiban menjaga.

Kalau state capacity lemah, provider akan resist.

Build trust institutionally.

Keenam belas: procurement pemerintah adalah test case

Pemerintah membeli AI.

Vendor bilang model proprietary.

Berapa banyak disclosure required?

Harus cukup untuk: security review, data governance, performance, audit, exit.

Pemerintah tidak perlu memiliki weights.

Tapi tidak boleh membeli kotak hitam total.

Public money.

Public impact.

Contract bisa punya confidential annex.

Auditor access.

Ini balance.

Ketujuh belas: trade secret juga tidak boleh menghalangi appeal individu

Kalau seseorang ditolak sistem AI, vendor tidak harus memberikan source code.

Tapi individu perlu reason actionable.

Data apa salah? Criteria apa? Bagaimana appeal?

Ini bisa dilakukan tanpa membuka IP.

Explainability by design.

Hukum harus fokus hak user.

Bukan source code fetish.

Kedelapan belas: transparency bisa menjadi competitive advantage

Vendor yang punya dokumentasi bagus lebih mudah masuk enterprise.

Procurement cepat.

Legal trust.

Auditor happy.

Model transparency bukan cuma compliance cost.

Bisa menjadi sales asset.

“Ini evaluation kami.” “Ini limitation.” “Ini data policy.”

Customer lebih percaya.

Market akan reward maturity.

Terutama setelah incident AI makin umum.

Pada akhirnya, Transparansi Model AI Tidak Berarti Membuka Semua Rahasia Dagang.

Yang dibutuhkan bukan internet mengetahui setiap parameter.

Yang dibutuhkan adalah informasi sampai ke orang yang memang perlu tahu.

User tahu sedang berinteraksi dengan AI.

Perusahaan tahu risiko sistem yang dibeli.

Auditor bisa menguji.

Regulator bisa enforce.

Individu bisa mengajukan keberatan.

Sementara IP, source code, dan trade secrets tetap dilindungi dari disclosure yang tidak perlu.

Itu bukan kompromi lemah.

Justru itu architecture governance yang realistis.

Kalau transparency dipaksa menjadi “buka semuanya,” industri akan melawan.

Ada satu konsep yang membantu: minimum necessary disclosure. Sama seperti data minimization, transparency juga bisa dirancang secukupnya untuk tujuan.

User perlu informasi untuk membuat keputusan.

Auditor perlu evidence untuk menguji.

Regulator perlu akses untuk enforce.

Competitor tidak otomatis berhak mendapat semuanya.

Dengan prinsip ini, debate “open versus closed” jadi lebih productive.

Perusahaan juga bisa memakai clean room atau secure review environment. Auditor melihat informasi sensitif tanpa membawa copy keluar. Source code atau dataset tertentu diperiksa di lingkungan terkendali. Model seperti ini sudah familiar di transaksi dan cybersecurity.

Transparency juga perlu format standard. Kalau setiap vendor punya dokumen beda, procurement sulit membandingkan. Indonesia bisa mendorong template sederhana untuk high-impact AI: intended use, data category, limitation, performance, human oversight, incident contact, dan change policy.

Standardized disclosure justru bisa mengurangi beban vendor.

Mereka tidak menjawab 100 questionnaire berbeda.

Buyer juga lebih cepat assess.

Terakhir, transparency harus punya consequence kalau informasi palsu. Dokumentasi yang bagus tetapi tidak akurat lebih berbahaya daripada tidak ada. Kalau provider menyatakan model tidak memakai data customer untuk training, klaim itu harus bisa diaudit.

Trust bukan lahir dari jumlah PDF.

Trust lahir dari apakah informasi bisa diuji.

Kalau trade secret berarti “tidak buka apa pun,” publik tidak bisa percaya.

Solusinya ada di tengah: right information, right audience, right level of access.