AI Center of Excellence Bisa Membantu, Tapi Jangan Jadi Menara Gading

✦ UNDERCOVER.ID KNOWLEDGE SYSTEM

AI Center of Excellence Bisa Membantu, Tapi Jangan Jadi Menara Gading

◆ FormatPost
↻ Diperbarui11 October 2026
◷ Waktu baca9 menit
✦ KonteksPanduan praktis

AI Center of Excellence terdengar seperti solusi yang rapi.

Buat satu tim pusat.

Isi orang pintar.

Kasih mandate.

Semua project AI masuk ke sana.

Mereka bikin guideline, pilih platform, bantu use case, jaga governance.

Secara teori masuk akal.

Masalahnya, banyak Center of Excellence punya penyakit klasik: terlalu jauh dari tempat kerja sebenarnya terjadi.

Meeting-nya banyak.

Framework-nya bagus.

Slide-nya rapi.

Tapi orang finance masih copy data manual.

Sales masih bingung tool mana yang boleh dipakai.

Customer service tetap punya knowledge base yang berantakan.

Tim operasional merasa setiap eksperimen harus minta izin ke pusat.

Akhirnya CoE yang seharusnya mempercepat malah menjadi loket baru.

Bukan karena konsepnya salah.

Karena posisinya salah.

AI Center of Excellence paling berguna ketika ia menjadi enabler yang dekat dengan bisnis, bukan “departemen AI” yang merasa semua hal harus lewat mereka.

Microsoft pada Juli 2026 bahkan menyarankan struktur CoE agentic bisa centralized, hybrid, atau federated tergantung kebutuhan, dengan fokus pada decision rights, risk-based governance, reusable assets, lifecycle, dan community enablement.

Kata yang penting di situ bukan “center”.

Yang penting adalah “enablement”.

CoE bukan tempat semua AI harus dikerjakan

Bayangkan perusahaan besar punya 30 unit bisnis.

Kalau semua use case harus dibangun satu tim pusat, antrean cepat panjang.

Marketing butuh assistant.

Finance butuh document analysis.

Operations butuh exception detection.

HR butuh internal search.

Sales butuh proposal workflow.

Satu tim pusat tidak mungkin memahami semua domain sedalam orang yang hidup di masing-masing fungsi.

Kalau CoE memaksakan diri menjadi delivery team untuk semuanya, dua hal terjadi.

Pertama, bottleneck.

Kedua, context hilang.

AI sangat bergantung pada domain knowledge.

Model general-purpose bisa pintar, tapi workflow perusahaan punya detail lokal.

Siapa approve.

Data mana authoritative.

Bahasa customer.

Exception apa yang sering muncul.

CoE tidak tahu semuanya.

Maka model yang lebih sehat adalah: CoE membuat jalan.

Business unit yang mengemudi.

CoE menyediakan platform, pattern, governance, evaluation, security, dan support.

Use case tetap punya owner di fungsi masing-masing.

Ini membuat capability menyebar tanpa chaos.

CoE yang terlalu central gampang menjadi “tim presentasi”

Ini pattern yang perlu diwaspadai.

Karena CoE punya mandate strategis, mereka sering dekat ke executive.

Banyak meeting.

Roadmap.

Policy.

Vendor briefing.

Maturity model.

Innovation day.

Semua legitimate.

Tapi kalau tidak ada link ke production, tim bisa terjebak pada aktivitas yang gampang dipresentasikan.

Berapa pilot.

Berapa employee training.

Berapa tool approved.

Berapa workshop.

Metric itu belum tentu menunjukkan value.

Pertanyaan lebih sulit:

Berapa workflow yang sekarang berbeda?

Berapa cycle time turun?

Berapa failure berkurang?

Berapa revenue atau capacity berubah?

Berapa use case yang survive setelah champion pindah?

Kalau jawabannya kabur, CoE berisiko menjadi menara gading.

Dekat dengan strategi.

Jauh dari operasi.

CoE harus punya kaki di lantai kerja

Salah satu cara paling sederhana: embedding.

Anggota CoE tidak hanya duduk di kantor pusat.

Mereka bekerja sementara dengan business unit.

Shadow process.

Ikut meeting operation.

Lihat data.

Lihat exception.

Dengan cara ini, mereka memahami pain point nyata.

Bukan hanya requirement di PowerPoint.

Misalnya tim CoE datang ke finance.

Bukan langsung bilang:

“Kita bisa pakai agent untuk financial close.”

Mereka lihat dulu proses close.

Ternyata masalah terbesar bukan analysis.

Data dari empat unit terlambat.

Ada format beda.

Approval tidak jelas.

AI mungkin membantu sebagian.

Tapi root problem-nya governance data.

Insight seperti ini hanya terlihat kalau dekat dengan kerja.

CoE yang bagus punya rasa ingin tahu pada proses.

Bukan obsesi memasang AI.

Golden path lebih berguna daripada aturan panjang

Employee dan developer paling terbantu kalau jalur aman juga jalur cepat.

Microsoft menyebut konsep reusable assets dan “golden paths” dalam panduan CoE agentic mereka.

Artinya CoE menyediakan contoh yang sudah aman.

Template agent.

Logging.

Identity.

Evaluation.

Connector approved.

Security pattern.

Kalau tim ingin membuat use case baru, mereka tidak mulai dari nol.

Mereka copy pattern.

Adjust.

Launch.

Ini jauh lebih valuable daripada PDF 80 halaman.

Governance embedded.

Developer tidak perlu menafsirkan semua rule.

Safe-by-default.

CoE seharusnya mengurangi friction.

Kalau setiap project harus membangun auth, monitoring, cost control, dan evaluation sendiri, organisasi lambat.

Shared capability memberi leverage.

Di sinilah “center” punya fungsi nyata.

Bukan mengontrol semua pekerjaan.

Menyediakan infrastruktur yang terlalu mahal kalau setiap tim membangun sendiri.

CoE perlu punya intake, bukan gatekeeping

Use case AI akan datang banyak.

Harus ada intake.

Tapi intake jangan terasa seperti imigrasi.

Form 40 pertanyaan.

Meeting empat kali.

Review sebulan.

Tim akan bypass.

Lebih sehat punya triage.

Low-risk.

Medium-risk.

High-risk.

Low-risk masuk sandbox cepat.

Medium punya review ringan.

High-risk masuk assessment lebih dalam.

Risk-proportionate.

Ini membuat governance terasa masuk akal.

Prompt untuk merangkum dokumen publik tidak perlu diperlakukan sama dengan agent yang bisa melakukan pembayaran.

Kalau rule-nya sama, perusahaan membuang waktu.

CoE punya peran penting membangun risk rubric seperti ini.

Business tidak perlu menjadi expert regulation.

Cukup tahu jalurnya.

Semakin mudah jalur resmi, semakin kecil shadow AI.

CoE juga harus berani bilang “pakai tool yang sudah ada”

Ada bias organisasi.

Tim pusat ingin menunjukkan value dengan membangun platform baru.

Padahal kadang kebutuhan business sudah diselesaikan vendor existing.

Kenapa bikin internal chatbot kalau enterprise suite yang sudah dibayar punya fitur yang cukup?

Kenapa bikin model khusus kalau open model plus retrieval cukup?

Kenapa bikin agent custom untuk task yang sebenarnya bisa rule-based automation?

CoE matang tidak mengukur keberhasilan dari jumlah project yang mereka bangun.

Mereka mengukur outcome.

Kadang keputusan terbaik adalah tidak membangun.

Ini butuh ego rendah.

Center of Excellence seharusnya pusat judgement.

Bukan pusat produksi.

Kalau setiap problem berakhir dengan project AI baru, itu red flag.

CoE perlu menjaga portfolio tetap sederhana.

Jangan biarkan seluruh perusahaan jadi zoo of tools.

Community of practice membuat capability tidak terpusat

AI berkembang terlalu cepat untuk semua knowledge tinggal di satu tim.

Business unit menemukan trik.

Developer menemukan pattern.

Legal menemukan risk baru.

Customer service menemukan failure.

Knowledge harus berputar.

Community of practice membantu.

Office hours.

Demo internal.

Use case library.

Failure sharing.

Prompt atau workflow repository.

Power user network.

Ini bikin CoE punya antenna di seluruh organisasi.

Mereka tidak harus tahu semuanya.

Mereka harus tahu siapa yang tahu.

Di perusahaan besar, network sering lebih penting dari central brain.

Kalau ada AI champion di finance, sales, operations, HR, dan legal, learning menyebar.

CoE menjadi connective tissue.

Bukan tower.

Ini juga mempercepat cultural adoption.

Employee lebih percaya rekan fungsi sendiri daripada “AI team pusat” yang tidak paham pekerjaan mereka.

CoE jangan memonopoli vendor relationship

Ada alasan procurement perlu central view.

Cost.

Security.

Contract.

Data.

Tapi business tetap perlu punya suara kuat.

Kalau CoE memilih platform hanya dari technical architecture, user bisa menolak.

Tool mungkin aman.

UX buruk.

Atau tidak cocok Bahasa Indonesia.

Atau workflow-nya terlalu ribet.

Vendor evaluation harus kombinasi.

Technical.

Risk.

Business fit.

User experience.

Economics.

CoE memfasilitasi.

Bukan diktator.

Ini juga mengurangi kemungkinan keputusan didorong hubungan vendor atau demo yang paling keren.

Buat internal evaluation set.

Tes dengan task nyata.

Business user menilai.

Security menilai.

Finance menilai cost.

Keputusan lebih sehat.

CoE yang bagus punya sunset plan

Ini agak kontraintuitif.

Center of Excellence seharusnya tidak ingin menjadi besar selamanya.

Kalau capability sudah menyebar, sebagian fungsi CoE bisa mengecil atau berubah.

Dulu mungkin semua use case harus dibantu.

Nanti business unit bisa self-service.

CoE fokus standar.

Platform.

Risk.

Complex case.

Research.

Ini tanda sukses.

Kalau sepuluh tahun kemudian semua prompt masih harus disetujui pusat, capability tidak pernah menyebar.

Excellence tidak seharusnya dimonopoli.

Ia seharusnya ditransfer.

CoE bisa punya maturity path.

Fase 1: centralize expertise.

Fase 2: standardize.

Fase 3: federate.

Fase 4: govern and evolve.

Ini lebih sehat daripada membangun kerajaan baru.

Struktur hybrid sering lebih masuk akal

Untuk banyak perusahaan, model hybrid realistis.

Core team kecil.

AI lead atau champion di business unit.

Core team pegang:

Platform.

Security pattern.

Data policy.

Evaluation standard.

Vendor framework.

Training base.

Business unit pegang:

Use case.

Outcome.

Workflow.

Adoption.

Local data context.

Ini membagi tanggung jawab sesuai proximity.

Yang dekat teknologi pegang reusable foundation.

Yang dekat business pegang value.

Di Jakarta, perusahaan dengan kantor pusat di Sudirman tapi operasi tersebar di cabang atau business unit akan cepat merasakan kenapa ini penting.

Head office tidak tahu semua variasi lapangan.

Tapi cabang juga tidak perlu membangun security architecture sendiri.

Federation menjembatani.

CoE harus punya output yang bisa dipakai Senin pagi

Tes paling gampang:

Setelah meeting dengan AI CoE, tim bisnis dapat apa?

Kalau jawabannya “framework”, mungkin belum cukup.

Harus ada sesuatu yang actionable.

Template.

Approved environment.

Decision.

Connector.

Evaluation method.

Training.

Office hour.

Roadmap yang konkret.

CoE paling berguna saat membuat tim lain bergerak lebih cepat.

Bukan saat membuat orang kagum dengan maturity matrix.

Excellence harus terasa di luar pusat.

Kalau hanya orang di CoE yang semakin pintar, organisasi tidak berkembang.

Measurement juga harus keluar dari CoE

Jangan ukur hanya aktivitas pusat.

Training count.

Pilot count.

Policy published.

Lebih baik:

Time from idea to safe pilot.

Time from pilot to production.

Reuse rate of shared components.

Business value.

Incident rate.

Percentage use case with owner.

Percentage agent with logging.

Retired tools.

Adoption yang meaningful.

Metric seperti ini menunjukkan CoE memperbaiki operating system.

Bukan sekadar ramai.

PwC pada 2026 menunjukkan kelompok perusahaan yang menangkap economic gain AI jauh lebih sering merancang ulang workflow dan meningkatkan decision autonomy sambil memperkuat governance.

CoE harus membantu ke arah itu.

Bukan mengganti business ownership.

Jangan bikin CoE jadi tempat orang melempar tanggung jawab

Ini risiko politik organisasi.

Business unit bilang:

“AI project kan punya CoE.”

Kalau gagal, CoE disalahkan.

Padahal outcome milik bisnis.

CoE harus tegas dari awal.

Kami bantu platform.

Governance.

Architecture.

Evaluation.

Tapi siapa yang memiliki proses ini?

Siapa yang accountable terhadap customer?

Siapa yang punya P&L?

Mereka tetap business.

Kalau ownership tidak jelas, project jadi anak yatim.

AI team mengerti teknologi tapi tidak punya authority mengubah proses.

Business punya authority tapi merasa project bukan miliknya.

Hasilnya mandek.

CoE harus menghubungkan.

Bukan mengambil alih.

Menara gading biasanya dibangun pelan-pelan

Awalnya niatnya membantu.

Lalu karena takut risiko, semua approval dipusatkan.

Karena ingin consistency, semua architecture dipusatkan.

Karena ingin quality, semua project harus review.

Karena workload naik, form diperpanjang.

Pelan-pelan jarak dengan business bertambah.

Akhirnya employee melihat CoE sebagai blocker.

Begitu reputasi itu terbentuk, shadow AI tumbuh.

Maka CoE harus menjaga satu prinsip:

Centralize what must be shared.

Federate what must stay close to work.

Identity dan security bisa shared.

Business judgement tidak.

Platform bisa shared.

Use case ownership tidak.

Standard bisa shared.

Experimentation harus tersebar.

AI Center of Excellence bisa sangat membantu.

Bahkan semakin AI agent masuk production, kebutuhan akan pattern, governance, identity, lifecycle, evaluation, dan reusable infrastructure justru naik.

Tapi “center” jangan disalahartikan sebagai pusat seluruh keputusan.

Kalau semua harus naik lift ke lantai executive untuk mendapat izin, perusahaan tidak sedang membangun AI capability.

Mereka sedang membangun antrean.

CoE yang sehat justru membuat excellence keluar dari ruangan pusat, masuk ke finance, sales, operations, HR, customer service, dan tim lain yang benar-benar mengubah pekerjaan.

Kalau beberapa tahun lagi business unit bisa menjalankan AI dengan aman tanpa harus selalu memanggil CoE, itu bukan tanda CoE kehilangan fungsi.

Itu tanda mereka berhasil.

Scroll to Top