Aturan AI Harus Mengatur Sistem, Bukan Mengejar Nama Model

Regulasi teknologi punya satu musuh klasik: release cycle.

Hari ini model A paling populer.

Enam bulan kemudian model B.

Tahun depan architecture berubah.

Kalau undang-undang menulis nama teknologi terlalu spesifik, regulator akan selalu tertinggal.

AI membuat problem ini ekstrem.

Dalam beberapa tahun kita sudah melihat: chatbot, multimodal, reasoning, tool use, agent, memory, multi-agent.

Nama produk berganti lebih cepat daripada proses legislasi.

Karena itu aturan AI harus mengatur sistem dan dampaknya.

Bukan mengejar nama model.

Indonesia juga sudah memberi sinyal ke arah ini.

Pemerintah pada 2026 menekankan regulasi AI perlu adaptif, tidak reaksioner, serta terhubung dengan aturan lain seperti UU PDP dan UU ITE. Dua RPerpres AI yang selesai dibahas lintas kementerian juga diposisikan sebagai langkah awal menuju UU AI yang lebih komprehensif.

Kalau Indonesia ingin framework tahan lama, prinsip pertama harus sederhana:

regulate function, not branding.

Nama model bukan indikator risiko

Misalnya perusahaan memakai GPT-X.

Apakah high risk?

Tidak tahu.

Kalau hanya membantu grammar: low.

Kalau mengendalikan alat medis: high.

Model sama.

Impact beda.

Sebaliknya model kecil lokal bisa digunakan untuk credit scoring.

Walaupun capability general-nya lebih rendah, use case-nya high impact.

Jadi nama model tidak membantu regulator cukup jauh.

Need context.

Purpose.

Data.

Autonomy.

Affected people.

Risk classification harus melihat system level.

Sistem lebih besar daripada model

AI product terdiri dari banyak layer.

Model.

System prompt.

Retrieval.

Database.

Tools.

User interface.

Business rules.

Human approval.

Log.

Vendor.

Output ditentukan kombinasi.

Kalau hanya mengaudit model, bisa miss risk.

Model aman.

Tapi tool permission terlalu luas.

Incident.

Model akurat.

Data salah.

Decision salah.

Model transparan.

Business threshold discriminatory.

Outcome unfair.

Sistem adalah unit governance yang lebih tepat.

Foundation model tetap perlu regulation tertentu

Bukan berarti model provider bebas.

Foundation model punya systemic capability.

Provider tahu training.

Safety.

Model evaluation.

Cybersecurity.

Mereka punya responsibility.

Tapi kewajiban model provider dan deployer harus berbeda.

Provider: documentation, risk testing, security, copyright policy.

Deployer: use-case assessment, data, human oversight, customer impact.

Shared responsibility.

Jangan satu layer menanggung semua.

Mengatur sistem lebih future-proof

Bayangin UU bilang: “chatbot AI wajib…”

Besok interface bukan chat.

Agent berjalan di background.

Rule jadi obsolete.

Lebih baik: “sistem AI yang berinteraksi langsung dengan pengguna wajib memberi disclosure…”

Function stays.

Atau: “sistem AI yang mengambil keputusan otomatis dengan dampak signifikan…”

Tidak peduli interface.

Future-proof.

Legal drafting harus memakai outcome language.

Autonomy lebih relevan daripada ukuran model

Model kecil dengan permission transfer uang punya risk besar.

Model frontier tanpa tool hanya memberi draft.

Which one riskier?

Bisa jadi yang kecil.

AI agent membuat ini obvious.

Risk = capability x access x impact.

Bukan intelligence score saja.

Regulasi harus melihat: apa yang bisa dilakukan.

Boleh baca? Tulis? Hapus? Transfer?

Permission menjadi regulatory variable.

Ini baru.

Traditional AI regulation banyak fokus model.

Agent era butuh system permission.

Data source juga penting

Sistem AI yang menggunakan public data berbeda dengan medical record.

Data category memengaruhi risk.

UU PDP sudah memberi framework untuk data personal.

AI law harus integrate.

Jangan ulang.

System assessment mencatat: data apa, legal basis, retention, quality.

Model name irrelevant untuk itu.

Business rule harus masuk audit

Contoh credit.

Model memberi score 0 sampai 100.

Perusahaan memilih: di bawah 60 reject.

Model bukan yang menentukan 60.

Manusia.

Kalau threshold menyebabkan unfair impact, regulator perlu melihat business rule.

Kalau hanya audit model, miss.

Ini penting.

Banyak “AI decision” sebenarnya hybrid: model score + policy.

System-level regulation menangkap keduanya.

Human role juga bagian sistem

Apakah manusia review?

Siapa?

Bisa override?

Berapa workload?

Kalau reviewer cuma stempel, autonomy sebenarnya tinggi.

System regulation melihat operational reality.

Bukan diagram.

Audit sampling.

Override rate.

Time per review.

Human factor.

Model regulation alone tidak.

Nama model bisa berubah tanpa mengubah risk

Vendor mengganti GPT dengan Gemini atau model internal.

Kalau use case sama, control harus tetap.

Risk assessment mungkin perlu retest.

Tapi legal category tidak berubah hanya karena brand.

Ini mengurangi compliance volatility.

Perusahaan tidak perlu bertanya: “apakah model baru masuk UU?”

Tanya: “apakah fungsi atau risk berubah?”

Much better.

Nama model juga bisa disembunyikan

Banyak SaaS tidak disclose backend.

Regulator tidak boleh bergantung pada brand.

Aplikasi bilang “AI-powered.”

Behind: model mix.

Routing.

Different provider.

Kalau law menyebut vendor tertentu, enforcement impossible.

System behavior observable.

Regulate outcome.

Tool call.

Decision.

Data.

Brand optional.

Benchmark juga jangan menjadi legal identity

Model bisa top benchmark.

Doesn’t mean safe.

Benchmark bukan certification.

System-level eval harus pakai task nyata.

AI customer support: factual accuracy.

Medical: clinical metric.

Agent: task success and unsafe action.

Regulation should mandate appropriate evaluation.

Not benchmark X.

Technical standard can specify.

Flexible.

Open source makin memperkuat argument

Model open weight bisa diunduh.

Fine-tune.

Modify.

Siapa responsible?

Original developer tidak punya control penuh.

Deployer punya lebih besar role.

Kalau law mengejar nama model, downstream version bisa sangat berbeda.

System governance lebih logical.

Track deployment.

Intended use.

Modification.

Responsibility follows control.

Open ecosystem requires nuance.

System registry lebih useful daripada model blacklist

Untuk pemerintah atau high-risk sector, registry use case bisa membantu.

“AI untuk screening penerima bantuan.”

Owner.

Vendor.

Risk.

Data.

Model can change.

Registry tetap relevant.

Blacklist model tertentu hanya useful kalau ada specific security issue.

Bukan governance baseline.

System inventory memberikan visibility.

Siapa pakai AI untuk apa.

Itulah information regulator butuh.

Regulatory language harus tahan rebranding

Tech company suka rebrand.

AI assistant.

Copilot.

Agent.

Reasoner.

Autonomous workflow.

Kalau kewajiban bergantung marketing term, perusahaan bisa menghindari dengan nama.

Law should define characteristic.

System that: infers, generates, recommends, decides, or acts.

Then classify impact.

Substance over label.

Ini classic law principle.

AI tidak berbeda.

Model provider juga jangan bisa lolos dengan bilang “bukan AI”

Jika fungsi jelas menghasilkan automated inference, definisi law harus technology-neutral.

Marketing tidak menentukan.

Kriteria teknis dan function.

Tapi definisi jangan terlalu broad sampai calculator masuk.

Need threshold.

Machine-based system dengan varying autonomy dan adaptive capability bisa menjadi titik.

OECD dan EU sudah menggunakan definisi function-based semacam itu.

Indonesia bisa belajar.

Tidak harus identik.

Agentic AI perlu aturan action layer

Ini area yang harus masuk architecture.

Model output text.

Agent action.

Rule: high-impact action wajib confirmation.

Permission logging.

Transaction cap.

Kill switch.

Ini system requirement.

Tidak bergantung model.

Kalau besok model baru muncul, control tetap relevan.

Exactly what future-proof regulation needs.

Cybersecurity juga system-level

Prompt injection menyerang interaction.

Credential theft.

Data exfiltration.

Model safety alone tidak cukup.

AI law harus coordinate dengan cybersecurity.

Security requirement: access control, incident response, supply-chain.

Again system.

Not model.

Regulator juga perlu capability menguji system

Jangan cuma meminta vendor model datang presentasi.

Inspect application.

Simulate user.

Test edge case.

Follow data flow.

Red team tools.

System audit.

Ini lebih dekat ke real impact.

Regulator sektor paling cocok untuk banyak use case.

OJK paham finance system.

Kemenkes health.

Komdigi baseline.

Distributed governance.

Model provider global bisa diawasi centrally untuk systemic obligations.

Deployer sectorally.

Layered regulation.

Perusahaan mendapat benefit dari approach ini

Kalau aturan fokus sistem, internal governance lebih jelas.

Inventory use case.

Risk tier.

Control.

Tidak peduli tim ganti vendor.

Architecture portable.

Policy: high-risk decision must human review.

Vendor A atau B.

Stable.

Ini mencegah governance tied ke procurement.

Model changes fast.

Policy stays.

Aturan AI Harus Mengatur Sistem, Bukan Mengejar Nama Model karena nama model adalah detail implementasi yang cepat berubah.

Yang bertahan adalah impact.

Siapa terdampak.

Apa keputusan.

Data apa.

Action apa.

Seberapa autonomous.

Bagaimana error diperbaiki.

Kalau regulator fokus pada pertanyaan itu, framework bisa hidup lebih lama.

Kalau sibuk mengejar setiap release, negara akan selalu telat.

Pada akhirnya, masyarakat tidak dirugikan oleh nama model.

Ada satu konsekuensi praktis untuk drafting hukum: definisi harus menangkap kombinasi inference dan deployment context. Model dasar bisa menjadi komponen, sementara “sistem AI” adalah konfigurasi yang benar-benar dipakai organisasi untuk menghasilkan output atau action.

Ini membantu memisahkan dua level kewajiban.

Model provider bertanggung jawab pada capability yang mereka kontrol.

Deployer bertanggung jawab pada data, permission, workflow, dan decision context yang mereka pilih.

Kalau sistem menggunakan beberapa model sekaligus, framework tetap jalan.

Hari ini router memilih model A untuk bahasa, model B untuk reasoning, model C untuk vision. User melihat satu aplikasi. Mengatur berdasarkan nama model akan absurd.

System-level regulation juga membuat audit lebih dekat ke pengalaman pengguna. Auditor tidak hanya menjalankan benchmark model. Mereka menguji task end-to-end.

Apakah input diterima dengan benar?

Apakah retrieval mengambil sumber yang tepat?

Apakah business rule masuk?

Apakah tool action benar?

Apakah human override bekerja?

Itulah tempat harm biasanya muncul.

Selain itu, model bisa di-update tanpa customer sadar. Kalau legal category menempel ke brand, provider cukup mengganti version. Kalau category menempel ke fungsi dan dampak, kewajiban tetap.

Indonesia juga bisa menggunakan konsep material change. Selama fungsi dan risk profile sama, perubahan model cukup re-test. Kalau autonomy, data, atau impact berubah, assessment lebih dalam.

Ini jauh lebih scalable.

Regulator tidak perlu mengejar changelog setiap vendor global.

Mereka fokus pada system yang benar-benar menyentuh masyarakat.

Itu juga membuat hukum lebih netral terhadap vendor dan lebih sulit dimanipulasi lewat rebranding produk.

Framework seperti ini juga lebih mudah dipakai lintas sektor karena regulator bisa menambahkan kontrol spesifik tanpa mengubah definisi dasar setiap kali teknologi berganti.

Mereka dirugikan oleh sistem yang mengambil keputusan atau tindakan dengan cara yang tidak aman, tidak fair, atau tidak accountable.

Itulah yang harus diatur.