Sales deck AI punya pola yang familiar.
Produktivitas naik.
Waktu hemat.
Workflow otomatis.
Employee lebih fokus.
Customer lebih cepat dilayani.
Semua menarik.
Tapi sebelum bicara ROI, ada satu pertanyaan lebih basic.
Aman nggak?
Begitu AI enterprise mendapat akses ke email, file, CRM, source code, financial data, atau system internal, security bukan appendix.
Security adalah syarat agar produktivitas boleh terjadi.
Pada Februari 2026, NIST meluncurkan AI Agent Standards Initiative dan secara eksplisit menempatkan security serta identity sebagai salah satu fokus utama trusted adoption. NIST juga menekankan bahwa AI agent bisa bekerja autonomous selama berjam-jam dan berinteraksi dengan internal data serta external systems.
Itu memperbesar attack surface.
Vendor AI yang mature harus bisa menjawab pertanyaan keamanan secara konkret.
Bukan “kami enterprise-grade”.
Pertanyaan pertama: data customer dipakai untuk apa?
Training?
Inference?
Logging?
Debugging?
Abuse monitoring?
Support?
Vendor harus jelas.
Data enterprise tidak boleh dianggap generic input.
Apakah ada opt-out?
Default bagaimana?
Terms berbeda antarplan?
Subprocessor?
Retention?
Delete?
Security review harus membaca dokumen resmi.
Jangan hanya percaya sales statement.
Pertanyaan kedua: data disimpan di mana?
Region.
Data residency.
Backup region.
Log location.
Vector database.
Attachment.
Cache.
Enterprise dengan requirement tertentu perlu tahu.
“Cloud” bukan lokasi.
Kalau vendor tidak bisa menjawab architecture data, red flag.
Pertanyaan ketiga: encryption.
At rest.
In transit.
Key management.
Customer-managed key jika dibutuhkan.
TLS.
Backup.
Secret.
Ini basic cloud security.
AI bukan exception.
Jangan karena produknya baru lalu standard lama dilupakan.
Pertanyaan keempat: identity.
User authenticate bagaimana?
SSO?
SAML?
OIDC?
SCIM?
MFA?
Agent identity?
Service account?
Kalau agent melakukan action, siapa principal-nya?
NIST 2026 menyoroti identity dan authorization untuk agent sebagai area penting karena agent menjadi actor sendiri.
Shared credential harus dihindari.
Per-action authorization lebih baik daripada satu token super luas.
Pertanyaan kelima: authorization.
RBAC?
ABAC?
Permission inheritance?
Connector scope?
Read-only?
Write?
Delete?
Admin?
Can agent access everything user can?
Atau lebih sedikit?
Least privilege.
Default deny untuk high-risk.
Perusahaan perlu memastikan AI tidak mendapatkan akses lebih besar daripada manusia yang meminta.
Agent jangan jadi jalan belakang.
Pertanyaan keenam: prompt injection.
Ini topik yang vendor tidak boleh jawab dengan “model kami sudah aman”.
Prompt injection adalah system problem.
Agent bisa membaca email, website, PDF, atau database yang berisi instruction berbahaya.
Bagaimana untrusted content dipisahkan?
Tool call divalidasi?
Ada allowlist?
Output filtering?
Confirmation?
Sandbox?
Red team?
NIST pada 2026 melakukan RFI khusus AI agent security, dan prompt injection menjadi salah satu kelas concern utama di ekosistem agentic.
Vendor harus punya defense in depth.
Tidak ada satu filter yang menyelesaikan.
Pertanyaan ketujuh: tool security.
Agent bisa memakai tool apa?
API.
Shell.
Database.
Email.
Browser.
File system.
Payment.
Vendor harus membatasi.
Apa parameter validation?
Rate limit?
Network egress?
Domain allowlist?
Filesystem scope?
Kalau agent compromised, blast radius apa?
Security architecture harus mengasumsikan model bisa tertipu.
Jangan design berdasarkan harapan model selalu patuh.
Pertanyaan kedelapan: audit log.
Setiap action tercatat?
User input.
Model output.
Tool call.
Permission.
Result.
Timestamp.
Agent identity.
Apakah log immutable?
Bisa export ke SIEM?
Retention configurable?
Kalau incident, bisa reconstruct?
Tanpa log, forensics lemah.
Productivity tanpa accountability berbahaya.
Pertanyaan kesembilan: incident response.
Pernah breach?
Notification SLA?
Contact security?
Critical vulnerability?
Disclosure process?
Can customer disable agent quickly?
Credential revoke?
Connector disconnect?
Safe shutdown?
Jangan tunggu incident baru cari prosedur.
Vendor mature punya playbook.
Pertanyaan kesepuluh: third-party dependency.
Model provider.
Cloud.
Embedding service.
Connector.
MCP server.
Plugin.
OCR.
Analytics.
AI stack punya supply chain panjang.
Vendor harus punya inventory.
Subprocessor list.
Risk review.
Update process.
Kalau dependency compromised, bagaimana?
Agentic system menambah layer supply-chain risk karena tool dan plugin bisa mengubah behavior.
Security review harus melihat beyond vendor logo.
Pertanyaan kesebelas: model update.
Vendor bisa mengganti model.
Apa notification?
Regression testing?
Version pinning?
Customer control?
Behavior AI bisa berubah walaupun aplikasi sama.
Untuk workflow critical, silent change risk.
Perusahaan perlu change management.
Vendor harus support.
Pertanyaan kedua belas: vulnerability management.
Penetration test?
Bug bounty?
SOC 2?
ISO 27001?
Certifications membantu, tapi bukan jaminan.
Tanya scope.
Audit mencakup AI platform?
Connector?
Agent?
Infrastructure?
Cert logo tanpa scope bisa misleading.
Security team perlu detail.
Pertanyaan ketiga belas: secure development.
Threat modeling?
Code review?
Dependency scanning?
Secrets?
Model eval?
Adversarial test?
Prompt injection test?
Data exfiltration test?
Agent loop?
Cost runaway?
AI product punya failure mode baru.
Vendor harus menambahkan test baru ke secure SDLC.
Bukan mengganti SDL.
Pertanyaan keempat belas: privacy.
Personal data.
Data subject rights.
Deletion.
Purpose limitation.
Consent jika relevant.
Employee data.
Customer data.
Vendor harus bisa membantu compliance.
Untuk Indonesia, UU Perlindungan Data Pribadi dan aturan sektoral tetap perlu diperhatikan sesuai use case.
Global vendor belum tentu otomatis memenuhi kebutuhan lokal.
Legal review diperlukan.
Pertanyaan kelima belas: availability.
SLA.
Uptime.
Rate limit.
Disaster recovery.
RTO.
RPO.
Fallback.
Kalau AI jadi bagian workflow critical, outage adalah security dan operational risk.
Productivity yang tinggi saat online tidak cukup kalau service sering unavailable.
Agent harus punya graceful failure.
Pertanyaan keenam belas: data leakage antartenant.
Multi-tenant isolation.
Cache.
Prompt.
Vector store.
Attachment.
Vendor harus bisa menjelaskan isolation.
Enterprise perlu confidence data mereka tidak muncul ke customer lain.
Ini basic trust.
Pertanyaan ketujuh belas: admin control.
Bisa disable feature?
Restrict connector?
Restrict model?
Restrict external share?
Set retention?
Review agent?
Approve publish?
Enterprise admin perlu control.
Tool consumer yang kebetulan punya business plan belum tentu cukup.
Pertanyaan kedelapan belas: shadow AI visibility.
Vendor bisa membantu perusahaan melihat agent yang dibuat user?
Inventory?
Owner?
Status?
Permission?
Last used?
Risk tier?
Agent sprawl adalah concern 2026.
Kalau setiap user bisa membuat agent tanpa governance, security blind spot.
Pertanyaan kesembilan belas: human approval.
Action apa yang bisa dipaksa approval?
Transfer.
Delete.
Send external.
Change HR data.
Purchase.
Vendor harus punya mechanism.
Bukan hanya prompt “please ask first”.
Security control harus deterministic kalau impact besar.
Prompt bukan policy engine.
Pertanyaan kedua puluh: rollback.
Kalau agent salah, bisa undo?
File restore.
Record history.
Transaction reversal.
Workflow cancel.
Tidak semua action reversible.
Untuk irreversible action, control lebih ketat.
Vendor harus mengakui.
Ada satu hal yang procurement sering lakukan terbalik.
Mereka lihat productivity demo dulu.
User jatuh cinta.
Baru security review.
Kalau security menemukan gap, semua jadi konflik.
“Kenapa security menghambat?”
Padahal urutannya salah.
Security requirement harus ada sebelum shortlist.
Vendor tahu expectation.
Tidak membuang waktu.
AI vendor yang serius biasanya malah senang mendapat pertanyaan detail.
Karena mereka juga ingin masuk production, bukan hanya pilot.
Vendor yang defensif ketika ditanya log, retention, identity, atau incident process perlu dicurigai.
Bukan berarti vendor kecil pasti buruk.
Startup bisa punya security bagus.
Vendor besar bisa punya gap.
Yang penting evidence.
Jangan membeli kepercayaan berdasarkan brand.
Beli berdasarkan control.
Ada juga risk productivity claim yang mengabaikan security overhead.
Misalnya agent menghemat 30 menit.
Tapi human harus mengecek semua action karena control lemah.
Actual saving kecil.
Vendor dengan guardrail, source, audit, dan scoped permission mungkin lebih productive secara total meskipun model sedikit lebih lambat.
Security dan productivity bukan musuh.
Security yang bagus mengurangi review friction.
Kalau user percaya data source, permission, dan rollback, mereka berani memakai lebih luas.
Trust mempercepat adoption.
Sebaliknya, tool yang terasa unsafe akan dipakai hanya untuk task sepele.
ROI rendah.
Jadi security sebenarnya enabler.
Untuk high-risk workflow, vendor juga harus bisa menjalani red team bersama customer.
Use case-specific.
Bukan hanya generic benchmark.
Test prompt injection.
Malicious file.
Wrong permission.
Duplicate action.
Data leakage.
Model refusal.
Timeout.
Cost loop.
Realistic scenario.
Production security tidak bisa disimpulkan dari certification.
Testing environment sendiri penting.
Ada juga contract.
Security clause.
Breach notification.
Subprocessor change.
Data deletion.
Audit right.
SLA.
Liability.
Support.
Termination.
Exit.
Procurement dan legal perlu terlibat.
AI security tidak berhenti di technical architecture.
Commercial agreement juga control.
Di Indonesia, banyak perusahaan mulai mencoba AI agent dari berbagai vendor global dan lokal.
Jangan terpukau hanya karena demo Bahasa Indonesia bagus.
Test security Bahasa Indonesia tidak berbeda prinsip.
Prompt injection bisa datang dari dokumen lokal.
Data pribadi tetap sensitif.
Permission tetap permission.
Agent tetap bisa salah action.
Security universal.
Localization hanya satu layer.
Ada satu checklist mental sederhana.
Sebelum vendor bicara “hemat 40 persen waktu”, minta mereka menjawab:
Data ke mana?
Siapa bisa akses?
Agent boleh melakukan apa?
Bagaimana prompt injection ditangani?
Apa yang dilog?
Bagaimana mematikan agent?
Apa yang terjadi jika salah?
Kalau tujuh pertanyaan ini belum jelas, productivity claim belum relevan.
Karena AI yang cepat tetapi tidak bisa dipercaya hanya memindahkan biaya.
Dari waktu kerja ke risk.
Enterprise tidak butuh itu.
Vendor AI yang layak masuk production harus bisa bicara dua bahasa.
Bahasa productivity.
Dan bahasa security.
Kalau cuma fasih yang pertama, mungkin produknya masih cocok untuk demo.
Belum tentu cocok untuk perusahaan.
Ada satu pertanyaan tambahan yang sering terlupakan: siapa yang punya akses internal dari sisi vendor? Support engineer? Subcontractor? Apakah privileged access membutuhkan approval dan dicatat? Enterprise perlu tahu bagaimana vendor menangani akses administratif terhadap environment customer.
Pertanyaan berikutnya adalah data recovery. Kalau configuration atau knowledge base terhapus, bagaimana restore? Backup berapa lama? Apakah customer bisa export sebelum termination? Availability dan recoverability sama pentingnya dengan prevention.
Vendor juga perlu menjelaskan bagaimana mereka menangani abuse internal dan insider risk. Security bukan hanya hacker eksternal. Privileged employee, compromised support account, atau credential leak bisa menjadi jalur serangan.
Untuk agent yang menjalankan code atau browser, sandboxing perlu ditanyakan. Apakah execution environment terisolasi? Network access dibatasi? File system persistent atau ephemeral? Credential tersedia selama berapa lama? Detail seperti ini menentukan blast radius ketika agent melakukan sesuatu yang tidak diharapkan.
Dan jangan lupa cost security. Agent yang masuk infinite loop bisa bukan hanya menghasilkan output buruk, tetapi juga membuat usage bill melonjak atau memanggil API berulang. Budget limit dan rate limit adalah control keamanan sekaligus finansial.
Vendor yang matang bisa menjawab semua ini tanpa mengalihkan pembicaraan kembali ke benchmark model.
Bacaan terkait
Artikel ini berada dalam Industry Intelligence dan mengikuti metodologi editorial Undercover.id. Format terkait tersedia di Reports dan analisis mendalam.