Dalam pengadaan perangkat lunak biasa, perusahaan menilai fungsi, keamanan, harga, dan dukungan. AI menambahkan lapisan baru: data, evaluasi, ketidakpastian, perubahan model, dan keputusan yang sulit dijelaskan. Membeli akses model tanpa membeli akuntabilitas adalah kontrak yang timpang.
Kontrak teknologi sering mengatur uptime dan harga, tetapi terlalu tipis ketika menyentuh audit, perubahan model, data pelatihan, atau tanggung jawab atas tindakan otomatis. Padahal bagian inilah yang menentukan siapa menanggung masalah setelah sistem masuk produksi.
Yang dibeli bukan hanya kemampuan model
Dokumen pengadaan perlu meminta model card atau dokumentasi setara, tujuan penggunaan, data yang diproses, batas performa, hasil evaluasi, incident process, serta notifikasi perubahan material. Klaim vendor harus diterjemahkan menjadi kewajiban yang dapat diuji.
Perubahan vendor dapat mengubah risiko
Service level tidak cukup mengukur uptime. Sistem dapat selalu tersedia tetapi menghasilkan hasil buruk. Metrik perlu mencakup error, kualitas, keamanan, human override, dan waktu pemulihan. Untuk keputusan penting, perusahaan juga membutuhkan hak audit atau bukti independen.
Pasar Indonesia memiliki variasi kemampuan vendor yang lebar. Perusahaan sebaiknya tidak memaksa vendor kecil memenuhi dokumen raksasa tanpa alasan, tetapi standar dasar mengenai data, keamanan, dan tanggung jawab tidak boleh ditawar.
Pihak yang paling dekat dengan AI procurement, termasuk procurement, legal, risk, IT, dan pimpinan perusahaan, perlu melihat siapa yang memegang kendali. Arahan seperti “Pisahkan persyaratan wajib dan sesuai risiko” dan “Minta bukti evaluasi pada data serta bahasa relevan” jauh lebih berguna daripada menambah slogan tata kelola yang tidak mengubah cara kerja.
Akuntabilitas harus tertulis, bukan diasumsikan
- Pisahkan persyaratan wajib dan sesuai risiko.
- Minta bukti evaluasi pada data serta bahasa relevan.
- Atur tanggung jawab perubahan model dan subprosesor.
- Masukkan incident notification dan remediation.
- Tetapkan kepemilikan hasil, log, konfigurasi, dan data.
Bahasa pemasaran cenderung menampilkan skenario terbaik. Artikel ini mengambil jarak dari itu: AI procurement harus dinilai melalui manfaat yang terukur, bentuk kegagalan yang masuk akal, dan kemampuan memperbaiki keputusan.
Pembahasan ini bertumpu pada NIST AI Risk Management Framework dan NIST Generative AI Profile. Sumber tersebut membantu menjelaskan arah dan batas AI procurement, tetapi tidak menggantikan pengujian pada produk, kebijakan, atau organisasi tertentu.
Pengadaan AI yang matang tidak membeli janji kecerdasan. Ia membeli hak untuk memahami, menguji, membatasi, dan menuntut perbaikan.
Sistem AI procurement yang layak dipercaya tidak meminta kepercayaan buta; ia meninggalkan jejak yang cukup untuk diperiksa.
Bacaan lanjutan: Yang dibeli bukan hanya kemampuan model
Membeli AI Agent untuk Perusahaan: Checklist Sebelum Kontrak Ditandatangani, AI di HR dan Risiko Bias yang Bersembunyi dalam Workflow, Industry Intelligence dan metodologi editorial Undercover.id.