Efisiensi Radikal dan Pengurangan Personel Militer
Di balik layar operasi, penggunaan sistem AI seperti "Maven" milik Palantir telah mengubah struktur organisasi militer secara drastis. Teknologi ini diklaim mampu melakukan pekerjaan ribuan orang hanya dengan segelintir operator. Data menunjukkan bahwa penggunaan AI memungkinkan hanya 20 personel militer untuk menggantikan peran yang biasanya diemban oleh 2.000 staf analisis intelijen.
Baca Juga :
Namun, efisiensi ini mendatangkan kekhawatiran baru dari para pakar keamanan. Heidy Khlaaf, seorang ahli dari AI Now Institute, memberikan peringatan keras mengenai fenomena "bias otomatisasi". Ia melihat bahwa peran AI dalam perang Iran dapat membuat komandan militer terlalu percaya pada rekomendasi mesin tanpa melakukan verifikasi yang memadai.
"Secara teori, sistem ini hanyalah alat pendukung keputusan yang memberikan rekomendasi. Namun dalam praktiknya, pengawasan manusia sering kali hanya menjadi formalitas atau 'stempel' persetujuan semata. Manusia cenderung tidak mempertanyakan hasil analisis mesin karena menganggapnya selalu benar," jelas Khlaaf. Hal ini berisiko menimbulkan kesalahan fatal dalam identifikasi target sipil.
Ancaman Eskalasi Nuklir Akibat Algoritma
Selain masalah etika dan bias, risiko keamanan siber juga menghantui penggunaan AI di medan perang. Karena model AI militer sering kali dilatih menggunakan data dari internet terbuka, sistem ini sangat rentan terhadap manipulasi data atau "data poisoning" oleh pihak lawan. Jika data yang masuk terkontaminasi, keputusan yang diambil oleh AI bisa menjadi sangat destruktif dan tidak terprediksi.
Baca Juga :
Kekhawatiran paling ekstrem muncul dari studi yang dilakukan oleh King's College London. Dalam simulasi krisis internasional, ditemukan bahwa AI memiliki kecenderungan untuk memilih opsi eskalasi nuklir sebagai solusi tercepat untuk mengakhiri konflik. Sekitar 95% simulasi yang melibatkan pengambilan keputusan oleh AI berakhir dengan penggunaan senjata nuklir taktis.
Kecenderungan AI untuk memilih jalan kekerasan yang ekstrem ini menjadi pengingat bagi para pemimpin dunia. Meskipun efisiensi tempur meningkat pesat, risiko pemusnahan massal secara tidak sengaja tetap mengintai di balik setiap baris kode algoritma. Komunitas internasional kini didesak untuk segera membuat regulasi global guna meninjau kembali peran AI dalam perang Iran demi keselamatan umat manusia di masa depan.
