Agent bukan sekadar chatbot

Perbedaan paling penting ada pada kata “bertindak”.

Chatbot klasik menghasilkan teks.

Agent melakukan action.

Membuka browser.

Memanggil API.

Mengirim request.

Menulis file.

Menjalankan code.

Memesan barang.

Mengubah database.

Mengirim pesan.

Satu prompt bisa berubah menjadi rantai tindakan panjang.

Manusia tidak mengawasi setiap langkah.

Di situlah konsep tanggung jawab mulai kabur.

Kalau manusia mengetik “tolong cari supplier paling murah”, dia tidak otomatis bermaksud, “silakan melanggar akses sistem pihak lain kalau perlu.”

Tapi agent bisa memilih strategi yang tidak pernah dibayangkan user.

Dalam hukum tradisional, intent atau niat sering penting.

Kalau software menjalankan strategi sendiri, intent siapa yang diperiksa?

Intent user?

Developer?

Company policy?

Prompt?

System instruction?

Atau hasil inferensi model?

Pertanyaan ini tidak punya jawaban sederhana.

Hukum komputer dibangun saat bot jauh lebih bodoh

Banyak aturan akses komputer lahir ketika software otomatis lebih gampang dikategorikan.

Authorized.

Unauthorized.

Bot.

Human.

Credential valid.

Credential curian.

AI agent membuat garis itu blur.

Misalnya user punya akun Amazon sendiri.

Dia memberi agent akses.

Agent lalu membuka halaman dan berbelanja atas nama user.

Dari perspektif user, permission jelas.

Dari perspektif platform, belum tentu.

Platform mungkin melarang automation tertentu.

Mungkin agent menyamarkan dirinya seperti browser manusia.

Mungkin platform sudah meminta provider agent berhenti.

Apakah akses tetap “authorized” karena user memang punya akun?

Atau unauthorized karena platform menolak software agent?

Perkara Amazon melawan Perplexity pada 2026 menunjukkan betapa pentingnya pertanyaan ini.

Maret 2026, pengadilan tingkat bawah sempat memberi injunction yang membatasi Comet AI shopping agent mengakses Amazon.

Agustus, pengadilan banding federal membalik hasil itu untuk tahap preliminary injunction. Salah satu alasan pentingnya adalah pengadilan melihat user sebagai pihak yang mengakses Amazon melalui tool tersebut, bukan Perplexity sebagai actor independen yang otomatis melakukan unauthorized access.

Itu belum berarti semua AI agent sekarang bebas masuk ke platform apa pun.

Kasusnya masih spesifik.

Faktanya masih bisa diperdebatkan.

Terms of Service tetap relevan.

Contract claims bisa berbeda dari computer access law.

Tapi presedennya penting.

Hukum mulai dipaksa membedakan antara malicious bot dan delegated agent yang digunakan user sah.

Delegasi adalah pusat masalah

Kita sudah lama punya konsep delegasi.

CEO memberi wewenang CFO.

Client memberi kuasa pengacara.

Pemilik rumah memberi akses kontraktor.

Perusahaan memberi employee corporate card.

AI agent pada dasarnya membawa konsep delegasi ke software.

Masalahnya, delegasi manusia biasanya punya boundary yang relatif dapat dipahami.

Agent bisa menafsirkan instruksi.

Itu kekuatannya.

Dan itu juga risikonya.

Kalau gue bilang ke assistant manusia, “booking hotel yang paling reasonable”, dia memahami konteks sosial.

Dia mungkin tidak akan memilih hostel tanpa refundable policy buat perjalanan board meeting.

Model AI bisa saja memilih opsi termurah karena parameter budget punya bobot paling kuat.

Jika keputusan agent menghasilkan kerugian, kita harus tahu apakah agent bertindak di dalam mandat atau melewatinya.

Berarti future agent membutuhkan permission yang jauh lebih granular.

Bukan cuma tombol “allow access”.

Agent boleh membaca email.

Tidak boleh menghapus.

Boleh menyiapkan transfer.

Tidak boleh mengeksekusi di atas Rp5 juta.

Boleh belanja kategori office supplies.

Tidak boleh membuka account baru.

Boleh login ke platform.

Tidak boleh bypass CAPTCHA atau anti-bot restriction.

Hukum akan lebih mudah bekerja jika arsitektur teknis punya boundary seperti ini.

Tanpa boundary, semua orang bisa saling lempar tanggung jawab.

Developer bilang user memberi instruksi.

User bilang agent salah paham.

Platform bilang automation dilarang.

Model provider bilang mereka hanya menyediakan model.

Akhirnya hakim harus membedah stack teknologi satu-satu.

Negligence mungkin jadi jalur hukum penting

Kalau hukum tidak punya aturan agent khusus, penggugat biasanya kembali ke konsep lama.

Kelalaian.

Duty of care.

Breach of contract.

Misrepresentation.

Unauthorized computer access.

Product liability.

Consumer protection.

Ini normal.

Hukum jarang mulai dari nol hanya karena teknologi baru.

Kalau perusahaan melepas agent yang punya kemampuan berisiko tanpa safeguard yang wajar, penggugat bisa bertanya apakah perusahaan lalai.

Apakah capability-nya diuji?

Apakah access scope dibatasi?

Apakah warning sudah ada?

Apakah monitoring dijalankan?

Apakah perusahaan tahu model sering melakukan action tak terduga?

Apakah incident sebelumnya diabaikan?

Ini membuat safety engineering menjadi legal defense.

Perusahaan yang punya dokumentasi kuat berada dalam posisi berbeda dibanding yang sekadar bilang, “Kami nggak tahu agent bakal melakukan itu.”

Di California, perkembangan regulasi frontier AI juga mulai mengurangi ruang bagi perusahaan untuk sekadar menyalahkan model ketika terjadi masalah.

Arahnya jelas.

AI bukan tameng liability.

Kalau perusahaan deploy sistem, tanggung jawab manusia dan organisasi tetap dicari.

Masalahnya makin rumit saat agent memakai agent lain

Agent modern tidak selalu bekerja sendiri.

Satu orchestrator bisa memanggil coding agent.

Coding agent memanggil browser agent.

Browser agent menggunakan external tool.

External tool mengakses third-party API.

Satu tindakan bisa punya lima layer.

Kalau error terjadi di layer terakhir, siapa punya kewajiban untuk mencegah?

Ini mirip supply chain.

Tapi supply chain software agent bergerak dalam milidetik.

Karena itu audit trail penting.

Siapa memberi task?

Agent mana yang memutuskan action?

Tool apa yang dipanggil?

Credential apa yang digunakan?

Policy apa yang aktif?

Apakah ada warning?

Apakah human approval diminta?

Tanpa log semacam itu, dispute berubah menjadi tebak-tebakan.

Buat enterprise, logging bukan lagi sekadar kebutuhan debugging.

Ia bisa menjadi evidence.

Agent juga memaksa perusahaan meninjau kontrak

Banyak perusahaan di Jakarta sudah mulai memasukkan AI ke workflow.

Marketing.

Legal.

Finance.

Customer service.

Coding.

HR.

Tapi sebagian masih memakai kontrak vendor standar.

Padahal agent membawa jenis risiko baru.

Misalnya agent vendor mengakses data pihak ketiga.

Kalau terjadi pelanggaran, indemnity-nya siapa?

Kalau agent membuat transaksi tanpa approval, siapa menanggung?

Kalau model provider mengubah behavior, apakah customer diberi notice?

Kalau agent menggunakan subprocessor baru, apakah data policy berubah?

Kalau agent melanggar ToS platform lain saat menjalankan task, apakah customer ikut liable?

Pertanyaan seperti ini terdengar sangat legal department.

Tapi akibatnya operasional.

Bayangin tim procurement di Kuningan mengaktifkan agent buat mencari harga supplier.

Agent ternyata menggunakan website competitor dengan cara yang dianggap melanggar access restriction.

Tim procurement mungkin merasa mereka cuma pakai software biasa.

Legal melihatnya berbeda.

Begitu agent bisa bertindak eksternal, vendor due diligence harus naik level.

Perusahaan tidak cukup bertanya, “Datanya dienkripsi nggak?”

Mereka juga perlu bertanya, “Agent ini melakukan apa saja di luar environment kita?”

Human oversight bukan berarti manusia klik semuanya

Ada respons gampang terhadap problem hukum agent: kasih human approval untuk semua action.

Secara teori aman.

Secara praktik agent jadi useless.

Kalau manusia harus approve setiap klik, copy, email, API call, dan booking, mending manusia kerjakan sendiri.

Jadi desain governance harus risk-based.

Action rendah risiko bisa otomatis.

Action reversible bisa lebih longgar.

Action mahal atau irreversible perlu confirmation.

Read access lebih longgar daripada write.

Internal task lebih longgar daripada external transaction.

Public data lebih longgar daripada sensitive data.

Ini sebenarnya mirip sistem finansial.

Kartu debit tidak meminta tanda tangan untuk kopi Rp30 ribu.

Transfer besar punya kontrol tambahan.

Agent perlu ekonomi permission seperti itu.

Bukan binary antara “bebas total” dan “semua harus manual”.

Hukum akan mengejar architecture

Pada akhirnya, regulasi agent kemungkinan akan sangat bergantung pada bagaimana sistem dirancang.

Kalau identity jelas, mandate jelas, action logged, permission scoped, dan user bisa revoke, hukum punya object yang bisa dinilai.

Kalau semuanya opaque, regulator akan cenderung memperketat.

Ini alasan standardisasi identity dan authorization agent menjadi penting di 2026.

Amerika lewat NIST, China lewat standar nasional, dan Eropa lewat kombinasi AI Act serta aturan digital lain sama-sama mulai bergerak ke arah ini.

Mereka menggunakan metode berbeda.

Tapi problem dasarnya sama.

Software mulai bertindak seperti actor.

Internet belum punya struktur hukum dan teknis yang matang untuk itu.

Kita akan melihat banyak kasus aneh

Beberapa tahun ke depan kemungkinan penuh dispute yang sekarang terdengar absurd.

AI agent salah beli.

AI agent salah kirim email.

AI agent membuka data yang seharusnya tidak boleh.

AI agent membuat booking tanpa memahami cancellation policy.

AI agent melakukan action yang merusak website.

AI agent mengakses platform yang sudah melarangnya.

AI agent menyetujui terms.

AI agent bernegosiasi dengan AI agent lain.

Setiap case akan memaksa pengadilan membuat garis.

Sedikit demi sedikit, case law membangun rulebook.

Begitulah hukum teknologi biasanya berkembang.

Bukan melalui satu undang-undang sempurna.

Tapi melalui kombinasi regulasi, kontrak, putusan pengadilan, technical standard, dan kebiasaan industri.

Buat perusahaan, menunggu semuanya jelas bukan strategi.

Mereka perlu membangun sistem seolah suatu hari harus menjelaskan keputusan agent ke regulator atau hakim.

Karena kemungkinan itu semakin masuk akal.

AI agent memaksa kita menghidupkan kembali pertanyaan lama dalam bentuk baru.

Siapa memberi kuasa?

Seberapa luas kuasanya?

Apa kewajiban orang yang menerima kuasa?

Siapa menanggung kerugian ketika kuasa digunakan salah?

Teknologinya baru.

Pertanyaannya sebenarnya sangat tua.

Bedanya, sekarang pihak yang menjalankan kuasa bukan manusia.

Ia software yang bisa berpikir cukup jauh untuk mengejutkan orang yang memberinya instruksi.

Dan hukum 2026 baru mulai belajar bagaimana menghadapi itu.