Perusahaan mengurangi pengeluaran AI saat tagihan token melampaui peningkatan produktivitas

Perusahaan-perusahaan yang sepanjang tahun lalu mendorong karyawannya untuk menggunakan alat AI seagresif mungkin kini kesulitan mengelola biayanya.  

Para CFO kini menuntut adanya hasil yang terukur dari tagihan API yang terus membengkak, mengancam proyeksi pertumbuhan OpenAI, Anthropic, dan penyedia model bahasa besar lainnya.  

Mengapa perusahaan-perusahaan tiba-tiba memangkas pengeluaran AI? 

Perusahaan-perusahaan kini mulai mengurangi pengeluaran AI mereka seiring para CFO menuntut pembenaran atas tagihan API yang kian membengkak. Pembalikan arah ini menandai berakhirnya apa yang oleh industri disebut sebagai "tokenmaxxing," dan koreksi tersebut terjadi dengan cepat.

Amazon baru-baru ini membubarkan papan peringkat internal yang melacak penggunaan AI karyawan setelah pimpinan menyimpulkan bahwa sistem tersebut menghasilkan lebih banyak pekerjaan sia-sia berbasis AI daripada hasil yang berguna. "Tolong jangan gunakan AI hanya demi menggunakan AI," kata seorang SVP Amazon kepada stafnya. 

Uber menghabiskan seluruh anggaran coding AI 2026-nya dalam empat bulan, dan Meta mengirimkan memo internal kepada sekitar 6.000 karyawan yang menyoroti apa yang disebutnya sebagai "peningkatan eksponensial" dalam penggunaan AI, memperingatkan bahwa perusahaan menghadapi biaya AI internal hingga miliaran dolar. Uber kemudian memberlakukan batas pengeluaran bulanan sebesar $1.500 per karyawan untuk alat coding AI.

Raksasa konsultasi Accenture sebelumnya memperingatkan karyawan bahwa mereka bisa "berisiko kehilangan promosi" jika tidak mengadopsi alat AI. Kini, Accenture berusaha menghentikan staf dari penggunaan AI untuk tugas-tugas sepele. 

Rekaman audio yang bocor dari sebuah pertemuan internal menangkap seorang eksekutif Accenture yang mengatakan bahwa pengeluaran AI "menjadi sangat tidak terduga." Eksekutif yang sama mengatakan bahwa pimpinan di "level CFO, COO, dan CIO masih mempertanyakan apakah mereka mendapatkan nilai dari apa yang kami belanjakan."

Adam McDaniel dan Markus Eisele dari International Business Machine (IBM) berpendapat dalam analisis terbaru bahwa minimisasi token sama buruknya dengan tokenmaxxing karena keduanya menjadikan konsumsi token sebagai tujuan utama alih-alih berfokus pada hasil bisnis. 

IBM mengadvokasi apa yang disebutnya "valuemaxxing," yang berfokus pada pengukuran tugas yang diselesaikan, waktu yang dihemat, dan pengerjaan ulang yang dihindari, bukan token yang dikonsumsi.

Apakah pengurangan pengeluaran AI sudah berdampak pada perusahaan?

OpenAI dan Anthropic membangun rencana pertumbuhan mereka berdasarkan asumsi bahwa perusahaan akan terus mengonsumsi lebih banyak token. 

OpenAI melampaui pendapatan tahunan sebesar $25 miliar lebih awal tahun ini, sementara menempatkan valuasinya sendiri di angka $1 triliun, sedangkan Anthropic dinilai beberapa miliar dolar lebih rendah. Kedua perusahaan tersebut menghabiskan banyak uang untuk komputasi, riset, dan perekrutan sambil berharap adopsi enterprise akan membuat mereka menguntungkan. 

Namun perusahaan-perusahaan sudah mulai menyimpan model unggulan yang mahal untuk pekerjaan kompleks dan menggunakan alternatif yang lebih kecil dan murah untuk tugas rutin. Sebagian memindahkan beban kerja ke model sumber terbuka yang berjalan di infrastruktur mereka sendiri tanpa biaya per token.

International Data Corporation (IDC) memprediksi bahwa pada tahun 2028, 70% perusahaan terkemuka yang digerakkan AI akan menggunakan beberapa model alih-alih mengandalkan satu penyedia saja. Hal itu akan mengubah AI menjadi komoditas di mana penyedia bersaing berdasarkan harga, bukan hanya kemampuan. 

Masalah biaya ini tidak akan hilang dalam waktu dekat. Bahkan CEO OpenAI, Sam Altman, telah mengakui bahwa biaya AI telah menjadi "masalah besar" bagi pelanggan tahun ini.

Jika Anda membaca ini, Anda sudah selangkah lebih maju. Tetap di sana dengan buletin kami.