Serangan AI Tidak Selalu Canggih, Tapi Skalanya Bisa Sangat Besar
Ada kecenderungan kalau ngomongin AI cyber attack, bayangannya langsung ekstrem.
AI supercerdas.
Exploit zero-day otomatis.
Agent yang menembus sistem perusahaan sendirian.
Robot hacker.
Padahal banyak serangan AI yang paling realistis justru boring.
Phishing lebih rapi.
Pesan lebih banyak.
Reconnaissance lebih cepat.
Variasi bahasa lebih luas.
Scam lebih personal.
Script sederhana dibuat lebih cepat.
Fake account lebih mudah diisi konten.
Tidak harus sophisticated.
Kalau biaya membuat satu serangan turun drastis, attacker bisa menjalankan lebih banyak percobaan.
Dan security sering kalah bukan karena satu serangan sangat genius.
Tapi karena ada seribu kesempatan untuk satu kesalahan manusia.
Google Threat Intelligence Group selama 2025 dan 2026 berulang kali menemukan bahwa threat actor menggunakan generative AI terutama untuk mempercepat pekerjaan yang sebenarnya sudah mereka lakukan: research, localization, coding assistance, social engineering, dan troubleshooting.
Ini insight penting.
AI tidak harus menciptakan teknik cyber baru supaya impact besar.
Automation pada teknik lama sudah cukup.
Misalnya phishing.
Dulu satu campaign punya template sama.
Filter gampang menangkap.
Sekarang attacker bisa membuat variasi.
Nama berbeda.
Tone berbeda.
Subject berbeda.
Bahasa berbeda.
Context berbeda.
Payload tetap sama.
Tujuannya mencuri credential.
Tapi surface lebih beragam.
Scale plus variation membuat defense lebih capek.
Ada economics sederhana.
Kalau dulu butuh lima menit membuat satu pesan personalized, satu orang hanya bisa membuat sekian banyak.
Kalau AI menurunkan menjadi beberapa detik, volume naik.
Walaupun conversion rate sama, total korban bisa naik.
Ini konsep yang perlu dipahami perusahaan.
Risk = probability x exposure x consequence.
AI bisa menaikkan exposure.
Lebih banyak attack.
Lebih banyak target.
Lebih banyak language.
Lebih banyak time zone.
Attack tidak perlu lebih pintar.
Attacker cuma perlu lebih produktif.
Pada Juni dan Juli 2026, Komdigi masih menyoroti scam digital di Indonesia, termasuk voice clone dan deepfake. Kerugian scam yang mereka kutip mencapai sekitar Rp7,5 triliun.
Bukan semua itu AI.
Penting dibedakan.
Tetapi AI menambah kemampuan pelaku untuk membuat impersonation dan content palsu dalam skala lebih mudah.
Jadi ancamannya bukan “AI mengambil alih semua scam”.
Lebih tepat: AI menjadi productivity tool untuk scammer juga.
Sama seperti menjadi productivity tool untuk marketing, developer, dan customer service.
Technology netral.
Incentive menentukan penggunaan.
Ada satu area yang sering diremehkan: translation.
Scammer tidak perlu native Bahasa Indonesia.
Model bisa membantu.
Bahasa bisa dibuat cukup natural.
Ini memperluas pasar serangan.
Attacker dari negara mana pun lebih mudah membuat campaign lokal.
Istilah pembayaran.
Sapaan.
Tone.
Bahkan slang.
Tidak harus sempurna.
Cukup nggak terasa obviously foreign.
Kita kehilangan satu red flag lama.
Ada juga image generation.
Scammer bisa membuat profile picture.
Poster.
Invoice.
Brand visual.
Fake storefront.
Tidak perlu designer.
Satu campaign bisa punya banyak asset.
Video generatif menambah lagi.
Voice clone.
Semua membuat scam operation lebih lengkap dengan jumlah orang lebih sedikit.
Ini industrialisasi.
Bukan selalu sophistication.
Coba bayangin UMKM palsu.
Dulu perlu foto produk.
Logo.
Caption.
Customer service.
Testimonial.
Sekarang banyak bisa dibuat AI.
Satu operator bisa membuat toko palsu terlihat aktif.
Posting rutin.
Reply natural.
FAQ.
Promo.
Landing page.
Kalau satu account ditutup, buat lagi.
Platform menghadapi scale.
Ini beda dari satu deepfake viral.
Lebih mundane.
Lebih banyak.
Cyber security sering punya bias ke serangan spektakuler karena lebih menarik dibahas.
Zero-day.
APT.
Nation-state.
Padahal user biasa lebih mungkin ketemu scam sederhana yang diulang ribuan kali.
Pesan paket.
Lowongan.
Investasi.
Customer service palsu.
Akun teman dibajak.
AI membuat boring attack lebih efisien.
Ini yang perlu diantisipasi.
Perusahaan juga menghadapi volume alert.
Kalau attacker bisa menghasilkan lebih banyak phishing, security operation harus bisa memprioritaskan.
Tidak mungkin semua alert ditangani manual.
AI defense akan ikut dipakai.
Email filtering.
Anomaly detection.
Identity risk.
SOC copilots.
Automation.
Jadi terjadi arms race productivity.
Attacker pakai AI untuk scale.
Defender pakai AI untuk triage.
Yang menang belum tentu model paling pintar.
Yang menang bisa jadi organization dengan process paling rapi.
Asset inventory.
MFA.
Patch.
Least privilege.
Backup.
Incident response.
Basic hygiene tetap powerful.
Ini sedikit anticlimactic.
Orang ingin solusi AI melawan AI.
Kadang solusi terbaik masih passkey.
Callback.
Patch server.
Disable account lama.
Segment network.
Restrict admin.
Verify bank account.
Boring control menahan serangan modern.
NIST pada 2026 juga menemukan dari respons industri bahwa banyak prinsip cybersecurity fundamental tetap relevan untuk AI agent, walaupun perlu adaptasi.
Itu comforting.
Kita tidak perlu membuang seluruh security playbook.
Kita perlu memperluas.
Ada satu scenario perusahaan.
Attacker memakai AI membuat 10.000 phishing email personalized.
Company punya phishing-resistant MFA.
Credential yang dicuri tidak cukup.
Attack scale besar.
Consequence kecil.
Control lama menang.
Scenario lain.
Employee finance mendapat satu voice clone CEO.
Company punya dual approval dan beneficiary verification.
Attack convincing.
Transfer tetap tertahan.
Process menang.
Ini lesson.
Defense harus memutus hubungan antara persuasion dan consequence.
Scammer boleh sangat persuasive.
System tetap punya limit.
AI juga bisa scale reconnaissance.
Public website.
LinkedIn.
Job posting.
Press release.
GitHub.
Document.
Model bisa merangkum structure organisasi.
Siapa finance.
Siapa admin.
Tool apa digunakan.
Vendor apa.
Ini mempercepat target selection.
Perusahaan perlu memikirkan information exposure.
Tidak berarti sembunyikan semua.
Transparency penting.
Tapi jangan publish detail internal yang tidak perlu.
Job posting kadang menulis exact security stack, architecture, bahkan version.
Useful untuk candidate.
Juga reconnaissance.
Balance.
GitHub secret hygiene.
Metadata.
Public document.
OSINT footprint.
AI membuat harvesting lebih murah.
Ada juga vulnerability discovery.
AI coding assistant bisa membantu attacker memahami code atau script.
Tapi defender juga.
Secure development perlu naik.
Static analysis.
Dependency update.
Code review.
Least privilege.
Jangan berharap attacker terlalu malas membaca repository.
AI mengurangi effort.
Untuk consumer, scale punya satu implication penting.
Kita mungkin menerima lebih banyak scam yang terlihat cukup bagus.
Artinya jangan mengandalkan rarity.
“Kalau scam pasti kelihatan.”
Nggak.
Kita perlu habit procedural.
Link bank?
Buka app.
Paket?
Cek marketplace.
Keluarga minta uang?
Callback.
Lowongan minta biaya?
Verify company.
Investment?
Check regulator and license.
Satu habit bisa menahan banyak modus.
Defender juga perlu menghindari fear marketing.
Kalau orang diberi kesan “AI scam bisa menipu siapa pun kapan pun”, mereka bisa pasrah.
Sebenarnya banyak serangan tetap membutuhkan kita melakukan action.
Klik.
Transfer.
Install.
Share.
Approve.
Kita masih punya control point.
AI memperbaiki persuasion.
Tidak otomatis menghilangkan choice.
Ini penting supaya security advice actionable.
Ada juga attack volume terhadap perusahaan kecil.
Dulu targeted phishing lebih banyak ke enterprise karena effort.
Kalau personalization murah, SME bisa jadi target.
Owner merangkap finance.
HR.
Procurement.
Satu orang punya banyak authority.
Scammer tidak perlu melewati banyak approval.
UMKM perlu control sederhana.
Rekening vendor baru harus callback.
Transfer besar dicek orang kedua.
Password manager.
MFA.
Backup.
No remote app dari stranger.
Simple.
Scale attack jangan dilawan dengan complexity berlebihan.
Law enforcement dan platform juga menghadapi challenge.
Kalau satu scammer membuat ribuan account dan konten, takedown manual lambat.
Detection dan automated enforcement perlu scale.
Namun false positive harus dijaga.
AI defense tidak boleh asal memblokir user legitimate.
Again, scale di dua sisi.
Platform perlu identity signal, device graph, payment pattern, report, content provenance, dan behavioral analysis.
Tidak ada satu detector.
Synthetic content provenance seperti C2PA bisa membantu pada sisi media.
Anti-scam telco bisa membantu pada call.
Bank fraud system pada transaction.
Trust layer tersebar.
Serangan scale besar membutuhkan defense berlapis.
Ada satu hal lain: attacker tidak perlu menggunakan frontier model.
Model kecil, open-source, atau automation biasa mungkin cukup.
Security team jangan hanya memantau nama model populer.
Threat adalah capability.
Generate text.
Translate.
Clone voice.
Automate browser.
Scale account.
Model brand irrelevant.
Kalau perusahaan membuat policy hanya “blok ChatGPT”, problem tidak selesai.
Attacker tidak memakai Wi-Fi kantor.
Defense harus fokus outcome.
Ada juga AI agent risk.
Attacker bisa mencoba prompt injection massal.
Taruh malicious instruction di website, issue tracker, document, atau email.
Mereka tidak tahu siapa agent yang akan membaca.
Tidak masalah.
Kalau payload murah, sebar luas.
Ini mirip spray-and-pray phishing, tapi targetnya agent.
Satu agent overprivileged yang termakan bisa cukup.
Scale lagi.
Microsoft pada 2026 mendorong deterministic controls, least permissions, dan defense in depth karena setiap tool tambahan memperluas attack surface agent.
Ini tepat untuk ancaman mass injection.
Jangan berharap model selalu menolak.
Batasi capability.
Ada satu perubahan besar dalam economics cyber.
AI menurunkan biaya eksperimen.
Attacker bisa mencoba lebih banyak wording.
Lebih banyak persona.
Lebih banyak target.
Lebih banyak timing.
Security perlu mempercepat feedback loop juga.
Report phishing mudah.
Block cepat.
Credential revoke.
Domain takedown.
Alert share.
Threat intel.
Organization yang lambat memberi attacker waktu.
Bukan hanya teknologi.
Process speed.
Untuk family, kecepatan juga.
Satu anggota menerima scam baru.
Share ke grup:
“Kalau ada nomor ini, jangan transfer.”
Collective defense.
Untuk perusahaan:
Near miss dilaporkan.
Security alert.
Finance tahu.
HR tahu.
Speed of learning mengurangi exposure.
AI membuat attacker belajar lebih cepat.
Defender juga harus.
Ada satu mental model yang worth dibawa.
Jangan tanya:
“Apakah serangan ini canggih?”
Tanya:
“Berapa kali bisa dicoba?”
Serangan sederhana dengan satu juta attempt bisa lebih berbahaya daripada exploit canggih yang sulit dijalankan.
Spam sudah membuktikan selama puluhan tahun.
AI hanya menaikkan kualitas spam.
Sedikit lebih personal.
Sedikit lebih natural.
Sedikit lebih adaptive.
Kalau ditambah scale, hasilnya signifikan.
Internet security 2026 akan banyak ditentukan oleh hal-hal yang nggak terlihat keren di keynote.
Rate limit.
Identity verification.
MFA.
Passkey.
Payment control.
Content provenance.
Agent permission.
Human callback.
Monitoring.
Backup.
Training.
Semuanya boring.
Bagus.
Security yang bekerja memang sering boring.
Kita baru notice ketika gagal.
AI tidak perlu menjadi hacker jenius untuk mengubah ancaman.
Ia hanya perlu membuat serangan lama cukup murah sehingga bisa dilakukan jauh lebih sering.
Dan ketika volume naik, satu fakta tetap berlaku:
attacker tidak harus menang setiap kali.
Mereka cuma perlu kita salah sekali.
Bacaan terkait
Artikel ini berada dalam Cybersecurity & Trust dan mengikuti metodologi editorial Undercover.id. Format terkait tersedia di Explainer teknologi dan kebijakan digital.