Technonesia - Biaya operasional teknologi AI kini menjadi sorotan tajam setelah banyak perusahaan menyadari bahwa penggunaan kecerdasan buatan tidak semurah yang mereka bayangkan sebelumnya. Alih-alih mendapatkan efisiensi maksimal, sejumlah pemimpin perusahaan justru mendapati tagihan komputasi mereka membengkak secara drastis. Fenomena ini memicu perdebatan baru mengenai keberlanjutan ekonomi dari adopsi AI secara masif di sektor korporasi.
Awalnya, banyak perusahaan berbondong-bondong mengadopsi "agen AI" untuk menggantikan peran manusia dengan harapan dapat memangkas pengeluaran rutin. Namun, realitas di lapangan menunjukkan hasil yang berbanding terbalik. Biaya yang harus dibayarkan untuk menyewa infrastruktur cloud dan membeli kuota token ternyata sering kali melampaui total anggaran gaji karyawan yang mereka gantikan.
Laporan terbaru dari Axios mengungkapkan sebuah tren yang cukup mengejutkan di kalangan eksekutif teknologi. Para petinggi perusahaan kini secara terbuka mengakui bahwa pengeluaran mereka untuk kebutuhan komputasi telah mendominasi neraca keuangan perusahaan. Hal ini menandakan adanya pergeseran beban biaya dari sumber daya manusia ke infrastruktur digital yang sangat haus energi dan modal.
Baca Juga :
Realitas Pahit di Balik Efisiensi Mesin
Salah satu pernyataan paling mencolok datang dari Bryan Catanzaro, Vice President of Applied Deep Learning di Nvidia. Ia mengungkapkan bahwa dalam tim yang ia pimpin, pengeluaran untuk biaya operasional teknologi AI jauh lebih tinggi dibandingkan dengan biaya untuk menggaji para ahli manusia yang sangat terampil. Nvidia, yang notabene adalah produsen chip AI terbesar di dunia, merasakan langsung betapa mahalnya menjalankan model-model canggih tersebut.
Kondisi ini tidak hanya terjadi di Nvidia. Perusahaan raksasa seperti Google, Microsoft, dan Meta juga menghadapi tantangan serupa. Di Google dan Microsoft, sekitar 25 persen kode pemrograman kini dihasilkan oleh AI. Sementara itu, Anthropic mengklaim bahwa hampir 100 persen kode internal mereka dikembangkan melalui bantuan kecerdasan buatan. Meskipun produktivitas meningkat, biaya di balik layar terus meroket tanpa henti.
Masalah utama terletak pada unit yang disebut sebagai "token". Token merupakan satuan dasar yang digunakan AI untuk memproses informasi. Semakin banyak instruksi yang diberikan atau semakin kompleks tugas yang dikerjakan, maka semakin banyak pula token yang dikonsumsi. Inilah yang kemudian memicu lonjakan biaya operasional teknologi AI karena setiap token memiliki harga yang harus dibayarkan ke penyedia layanan seperti OpenAI atau Anthropic.
Fenomena Tokenmaxxing dan Pemborosan Digital
Di lingkungan pengembang perangkat lunak, muncul istilah baru yang dikenal sebagai "tokenmaxxing". Aktivitas ini merujuk pada kebiasaan para pekerja teknologi yang menggunakan kuota AI secara berlebihan untuk menyelesaikan tugas-tugas mereka. Meta bahkan memberikan penilaian kinerja kepada pegawainya berdasarkan seberapa intensif mereka memanfaatkan alat-alat berbasis AI dalam pekerjaan sehari-hari.
Dampaknya, penggunaan token menjadi tidak terkendali. Seorang programmer di Stockholm bernama Max Linder mengaku menghabiskan biaya untuk penggunaan token Claude melebihi nilai gaji bulanannya sendiri. Lebih ekstrem lagi, Uber dikabarkan telah menghabiskan seluruh anggaran AI mereka yang direncanakan hingga tahun 2026 hanya untuk membayar penggunaan token di platform Anthropic dalam waktu singkat.
