JAKARTA, Cobisnis.com – Sebuah kesalahan sistem kecerdasan buatan atau AI dalam laporan intelijen Amerika Serikat nyaris memicu konflik militer dengan China pada musim semi 2026.
Sejumlah pesawat militer AS disebut telah bersiap menjalankan operasi terhadap sebuah kapal China setelah laporan intelijen menyebut kapal tersebut membawa komponen yang diperuntukkan bagi program senjata nuklir.
Laporan itu muncul di tengah ketegangan terkait perang dengan Iran dan dibuat oleh seorang analis Komando Operasi Khusus AS atau SOCOM dengan bantuan chatbot AI.
Analis tersebut menggunakan AI untuk mengolah data dari sumber terbuka dan menggabungkannya dengan intelijen sinyal rahasia sebelum sistem keliru mengidentifikasi manifes kargo kapal China.
Temuan yang salah tersebut kemudian kembali dimasukkan ke sistem AI untuk disusun menjadi ringkasan intelijen resmi yang akhirnya beredar hingga tingkat komando tertinggi.
Operasi bersenjata itu akhirnya dibatalkan setelah pejabat AS melakukan pemeriksaan lebih lanjut terhadap laporan yang ternyata mengandung informasi keliru akibat sistem AI.
Insiden tersebut menyoroti risiko penggunaan AI dalam sektor pertahanan, terutama ketika hasil sistem digunakan untuk mendukung keputusan yang berkaitan dengan penggunaan kekuatan militer.
Peneliti GovAI sekaligus veteran Angkatan Darat AS Jake Steckler menekankan bahwa personel militer perlu memahami ketidakpastian yang melekat pada model bahasa besar atau LLM.
“Penting bagi anggota militer untuk memahami ketidakpastian yang melekat pada LLM. Namun, hal ini sangat penting untuk setiap keputusan yang dapat menyebabkan penggunaan kekuatan, seperti penargetan, analisis intelijen, atau perencanaan operasional. Ada konsekuensi hidup dan mati untuk keputusan-keputusan tersebut,” kata Steckler dalam tanggapan tertulisnya.
Meski demikian, Steckler mengatakan teknologi AI tetap dapat digunakan dalam konteks yang tepat dengan sistem pengamanan yang memadai untuk mengurangi risiko kesalahan.
