Technonesia - Standar benchmarking GenAI terbaru kini memasuki babak baru seiring dengan langkah strategis yang diambil oleh raksasa semikonduktor, AMD. Perusahaan secara resmi mengumumkan keterlibatannya sebagai salah satu kolaborator awal dalam inisiatif MLPerf Endpoints. Langkah ini menandai pergeseran fundamental dalam industri teknologi, di mana fokus evaluasi kini beralih dari sekadar kekuatan mentah perangkat keras menuju kualitas layanan yang dirasakan langsung oleh pengguna akhir.
Selama bertahun-tahun, pelaku industri hanya mengandalkan metrik throughput token GPU sebagai tolok ukur utama performa. Namun, AMD melihat bahwa pendekatan tersebut tidak lagi relevan di tengah pesatnya pertumbuhan layanan AI terkelola. Bagi penyedia layanan, kemampuan infrastruktur untuk mengirimkan token secara efisien melalui API menjadi prioritas yang jauh lebih krusial dibandingkan angka-angka teoritis di atas kertas.
Pentingnya Metrik Berbasis Pengalaman Pengguna
Kehadiran MLPerf Endpoints yang dikembangkan oleh konsorsium MLCommons bertujuan untuk menjawab tantangan tersebut. Inisiatif ini merupakan rangkaian benchmark inferensi AI yang dirancang khusus untuk merefleksikan penggunaan dunia nyata pada layanan Generative AI (GenAI). Dengan mengadopsi standar benchmarking GenAI terbaru ini, para pengembang dan perusahaan dapat melihat gambaran yang lebih akurat mengenai performa sistem mereka saat menangani beban kerja yang dinamis.
Emad Barsoum, Corporate VP AMD, menegaskan bahwa perusahaannya memiliki komitmen panjang terhadap standar terbuka dan benchmarking berbasis komunitas. Menurutnya, transparansi dalam proses evaluasi memberikan manfaat besar bagi seluruh ekosistem teknologi yang sedang berkembang pesat. AMD tidak hanya sekadar menjadi pengikut, tetapi juga berperan aktif sejak hari pertama dalam mendefinisikan beban kerja, aturan, serta infrastruktur evaluasi tersebut.
Salah satu fitur yang membuat standar benchmarking GenAI terbaru ini unggul adalah arsitektur berbasis API yang didukung oleh sistem pengiriman bergulir (rolling submission). Fitur ini memungkinkan pembaruan benchmark dilakukan secara berkelanjutan, selaras dengan kecepatan pembaruan perangkat lunak. Hal ini memastikan bahwa hasil evaluasi tetap relevan meskipun model GenAI modern terus berevolusi dalam hitungan minggu.
Kolaborasi Strategis dengan MLCommons
David Kanter, Co-founder MLCommons, memberikan apresiasi tinggi terhadap kontribusi AMD dalam membangun standar ini. Penggunaan infrastruktur produksi nyata dalam proses pengembangan memperkuat posisi MLPerf sebagai standar industri yang paling tepercaya. Kehadiran AMD memberikan validasi kuat bahwa metrik yang dihasilkan benar-benar mencerminkan apa yang dibutuhkan oleh pasar saat ini.
Bagi AMD, kepemimpinan dalam sektor kecerdasan buatan bukan hanya tentang menjual chip tercepat, melainkan juga tentang menciptakan standar yang transparan dan dapat direproduksi oleh siapa saja. Dengan mempublikasikan panduan reproduksibilitas menggunakan framework AI open-source, AMD memberikan jaminan bahwa hasil benchmark mereka dapat diverifikasi oleh komunitas pengembang secara luas tanpa ada yang ditutup-tutupi.
Implementasi standar benchmarking GenAI terbaru pada lini produk GPU AMD Instinct diprediksi akan mengubah peta persaingan di pasar pusat data. Saat ini, banyak perusahaan mulai beralih dari fase eksperimen AI menuju fase produksi skala besar. Dalam fase ini, efisiensi biaya per token dan latensi API menjadi variabel yang menentukan keberhasilan implementasi bisnis mereka di masa depan.