Perusahaan Mulai Mengukur AI dari Biaya per Tugas, Bukan Jumlah Prompt

Ada masa ketika dashboard AI perusahaan terlihat seperti analytics aplikasi biasa.

Monthly active users.

Jumlah prompt.

Jumlah login.

Jumlah token.

Jumlah team yang mencoba.

Angka naik.

Management senang.

Masalahnya, angka itu belum menjawab pertanyaan CFO.

AI ini menghasilkan apa?

Seseorang bisa menulis 500 prompt sebulan dan tidak menyelesaikan satu pekerjaan penting.

Orang lain menjalankan lima agent task tetapi masing-masing menghemat tiga jam.

Kalau hanya melihat prompt count, user pertama terlihat lebih aktif.

Secara bisnis, user kedua mungkin jauh lebih valuable.

Pada Juli 2026, OpenAI secara eksplisit mendorong perusahaan mengukur AI melalui useful work per dollar, termasuk tasks completed, time saved, decisions improved, dan workflows yang siap scale. OpenAI juga mempublikasikan scorecard yang menekankan useful work, cost per successful task, dependability, dan value at scale.

Arah ini jauh lebih masuk akal.

AI bukan social media.

Engagement bukan goal.

Work accomplished adalah goal.

Metric pertama yang perlu didefinisikan adalah unit of work.

Satu invoice diproses.

Satu customer issue selesai.

Satu report dibuat.

Satu code task selesai.

Satu procurement request dirouting.

Satu contract section direview.

Satu data analysis selesai.

Kalau unit belum jelas, cost sulit dihitung.

“Marketing menggunakan AI” terlalu vague.

“AI membantu membuat first draft 40 campaign brief per bulan” lebih konkret.

Kemudian baseline.

Berapa biaya sebelum AI?

Waktu human.

Software.

Error.

Rework.

Delay.

Misalnya satu invoice manual butuh 12 menit.

Employee cost rata-rata tertentu.

Error 3 persen.

AI membuat extraction 2 menit.

Human review 3 menit.

Error turun.

Baru kita bisa menghitung.

Tanpa baseline, perusahaan cuma tahu spending AI naik.

Tidak tahu apakah economics membaik.

Cost per task bukan cuma token.

Ini important.

Banyak team salah menghitung.

Mereka melihat API bill.

“Murah, cuma beberapa rupiah per call.”

Tapi production cost punya layer lain.

Model.

Infrastructure.

Vector database.

Connector.

Monitoring.

Human review.

Integration maintenance.

Failed task.

Retry.

Support.

Security.

License.

Semua perlu masuk.

Kalau agent menghabiskan Rp2.000 compute tetapi human review butuh 20 menit, total cost jauh lebih besar.

Human-in-the-loop punya harga.

Cost per successful task harus memasukkan itu.

Kata “successful” juga penting.

Kalau 100 task dijalankan dan 30 gagal, jangan membagi cost hanya ke 100.

Perusahaan perlu melihat cost dari work yang benar-benar selesai dengan quality threshold.

OpenAI scorecard 2026 menekankan cost per successful task, bukan raw inference cost.

Ini mengubah diskusi.

Model murah yang sering gagal bisa lebih mahal daripada model premium yang berhasil sekali jalan.

Misalnya model A biaya Rp100 per task, success 50 persen.

Model B Rp180, success 95 persen.

Setelah retry dan review, B bisa lebih murah.

Jangan pilih model hanya dari token price.

Outcome efficiency lebih penting.

Dependability masuk equation.

Ada juga latency cost.

Task selesai dua menit vs dua jam.

Untuk back-office mungkin tidak masalah.

Untuk customer service, impact besar.

Cost per task bisa diperluas menjadi value per task.

Berapa revenue protected?

Berapa delay dihindari?

Berapa customer retained?

Tidak semua benefit berupa labor saving.

Misalnya AI mendeteksi fraud lebih cepat.

Compute cost kecil.

Value dari loss avoided besar.

Atau AI forecasting mengurangi stockout.

Value muncul di revenue.

Jadi CFO tidak hanya perlu cost.

Perlu value relationship.

Useful work per dollar.

Untuk knowledge worker, measurement lebih sulit.

AI membantu draft strategy memo.

Berapa nilainya?

Tidak ada unit standar.

Tapi perusahaan masih bisa membuat proxy.

Time to first draft.

Number of revision.

Research time.

Quality rating.

Decision cycle.

Stakeholder satisfaction.

Tidak perfect.

Lebih baik daripada jumlah prompt.

Software engineering punya metric lebih jelas.

Task completion.

PR cycle.

Test pass.

Bug rate.

Review time.

AI coding assistant yang menghasilkan banyak code tetapi bug naik belum tentu productive.

Lines of code adalah vanity metric.

Prompt count juga.

Customer service bahkan lebih direct.

Cost per resolution.

Not cost per conversation.

Zendesk pada 2026 mendorong automated resolution sebagai unit pengukuran dan billing untuk AI agent.

Ini mencerminkan shift pasar.

Customer tidak dibantu hanya karena bot bicara.

Case harus selesai.

Perusahaan bisa membandingkan:

Human resolution cost.

AI resolution cost.

Blended cost.

Escalated AI case cost.

Repeat contact.

Quality.

Kalau AI resolution murah tapi repeat contact tinggi, apparent saving palsu.

Metric harus end-to-end.

Ada juga cost of supervision.

Semakin high-risk workflow, semakin banyak review.

AI untuk internal summarization mungkin hampir no review.

AI untuk contract, finance, or medical workflow butuh review besar.

Cost per task berbeda.

Jangan membuat satu average seluruh AI portfolio.

Segment berdasarkan use case.

Satu enterprise mungkin punya:

Rp500 per low-risk summary.

Rp10.000 per research task.

Rp50.000 per complex agent workflow.

Semua bisa worth it kalau alternative lebih mahal.

Yang dicari bukan angka absolut.

Yang dicari unit economics.

Perusahaan juga perlu melihat marginal cost.

Ketika usage naik 10x, apa yang terjadi?

Discount?

Infrastructure bottleneck?

Human review queue?

Connector rate limit?

Support load?

Value at scale tidak otomatis linear.

OpenAI pada 2026 juga menekankan apakah setiap dollar AI menghasilkan lebih banyak work ketika usage grows.

Ini penting.

Pilot 100 task mungkin murah.

Production 1 juta task bisa berbeda.

Atau justru economies of scale membuat jauh lebih baik.

Forecast capacity diperlukan.

Ada satu danger: cost optimization terlalu cepat.

CFO melihat task mahal.

Minta model diturunkan.

Quality jatuh.

Total cost naik karena rework.

Optimization harus melihat frontier antara cost dan quality.

Task sederhana gunakan model kecil.

Task kompleks model kuat.

Routing.

Fallback.

Caching.

Tool use.

Context management.

Semua bisa menurunkan cost tanpa sacrifice.

AI engineering menjadi economics engineering.

Perusahaan perlu tahu bahwa reasoning panjang tidak gratis.

Agent yang melakukan 30 step mungkin menyelesaikan task.

Tapi apakah semua step perlu?

Observability bisa menunjukkan.

Misalnya agent research membuka 50 source.

Human analyst sebenarnya cukup 10.

Workflow bisa disederhanakan.

Agent loop adalah process.

Optimize.

Jangan anggap behavior model fixed.

Ada juga duplicate AI spend.

Team A pakai tool X.

Team B beli tool Y.

Capability overlap.

Satu task dilakukan dua platform.

Cost per task naik secara portfolio.

Governance perlu spend visibility.

OpenAI pada 2026 menekankan admin perlu melihat usage dan spend by user, product, dan model karena growing bill bisa berarti waste atau workflow yang justru mulai business-critical.

Interpretasi usage matters.

User dengan spend tinggi tidak otomatis boros.

Mungkin mereka menjalankan workflow paling valuable.

Perlu context.

Ini alasan chargeback atau showback berdasarkan task lebih baik daripada hanya user.

Project A menghabiskan 40 persen AI budget.

Tapi menghasilkan 70 persen value.

Good.

Project B 20 persen spend, outcome tidak jelas.

Review.

Ada juga opportunity cost.

Kalau AI menghemat 1.000 jam per bulan, apakah jam itu menghasilkan sesuatu?

Kalau workload turun tetapi organisasi tidak mengubah process, saving hanya theoretical.

Time saved perlu convert.

Lebih banyak customer.

Lebih cepat launch.

Backlog turun.

Quality naik.

Employee tidak overtime.

Semua valid.

Tapi harus didefinisikan.

Jangan otomatis menganggap satu jam saved sama dengan satu jam salary cash saving.

Itu sering salah.

Labor cost biasanya fixed.

Value datang dari capacity.

Perusahaan bisa menyelesaikan lebih banyak dengan headcount sama.

Itu capacity gain.

Metric harus jujur.

CFO akan lebih percaya.

AI measurement juga perlu risk cost.

Incident.

Compliance review.

Data breach risk.

Bias.

Wrong action.

Sulit dikuantifikasi sempurna.

Tapi high-risk workflow harus punya risk-adjusted view.

AI yang hemat Rp100 juta tetapi membuka potential regulatory exposure besar tidak otomatis bagus.

At least classify risk.

Expected loss kalau memungkinkan.

Control cost.

Cost per task tanpa risk bisa mendorong automation berlebihan.

Ada juga employee experience.

Kalau AI menurunkan cost tetapi membuat kerja manusia yang tersisa jauh lebih berat, turnover bisa naik.

Customer service contoh klasik.

AI mengambil simple cases.

Human hanya mendapat angry complex cases.

Cost per human case naik.

Jangan salah baca sebagai inefficiency.

Case mix berubah.

Measurement harus melihat system.

Tidak hanya satu actor.

Perusahaan juga perlu melihat learning curve.

Bulan pertama cost per task mungkin mahal.

Integration belum mature.

Prompt belum optimal.

User masih training.

Bulan ketiga turun.

Track trend.

Jangan kill project terlalu cepat jika direction bagus.

Sebaliknya, jangan mempertahankan pilot selamanya dengan alasan “masih belajar”.

Tetapkan target.

Milestone.

Kill criteria.

Measurement memberi discipline.

Ada satu dashboard yang seharusnya mulai dimiliki finance atau AI governance team.

Use case.

Volume task.

Success rate.

Cost per successful task.

Human review rate.

Time saved.

Quality.

Business value.

Risk tier.

Trend.

Dengan itu, conversation berubah.

Bukan “berapa banyak orang pakai ChatGPT?”

Tapi “workflow mana yang menghasilkan useful work paling murah dan paling reliable?”

Ini jauh lebih actionable.

Di perusahaan Indonesia, shift ini penting karena budget AI akan semakin besar.

License premium.

API.

Consultant.

Cloud.

Agent platform.

Kalau tidak ada unit economics, spending mudah bocor.

Semua departemen punya alasan bagus.

CFO perlu bahasa bersama.

Cost per task adalah salah satunya.

Bukan metric sempurna.

Tapi lebih dekat ke reality daripada prompt count.

Jumlah prompt bisa naik karena user bingung.

Lima prompt untuk satu task belum tentu lebih baik daripada satu prompt.

Token bisa naik karena model verbose.

Login bisa naik karena training.

Tidak ada yang otomatis berarti value.

AI seharusnya dinilai seperti production capacity.

Berapa pekerjaan selesai.

Berapa kualitas.

Berapa biaya.

Berapa risiko.

Kalau empat angka ini membaik, scale.

Kalau tidak, model secerdas apa pun belum menjadi business case.

Pada akhirnya perusahaan tidak membeli prompt.

Mereka membeli kemampuan menyelesaikan pekerjaan.

Dashboard juga harus mulai mengakuinya.

Ada satu manfaat lain dari cost-per-task: perusahaan bisa membandingkan automation dengan alternatif non-AI. Kadang rule-based workflow lebih murah dan lebih reliable. Kalau task deterministik, jangan paksa generative model hanya karena sedang tren.

AI seharusnya menang ketika flexibility, reasoning, atau unstructured data memang memberi advantage. Untuk task yang cukup dengan formula dan rule, software biasa masih sangat valid.

Perbandingan ini menjaga investasi tetap rasional. Pertanyaannya bukan “AI atau tidak?” tetapi “cara termurah dan paling reliable untuk menyelesaikan unit pekerjaan ini apa?”

Scroll to Top