JAKARTA, Cobisnis.com – OpenAI dan Anthropic tengah menyelidiki insiden yang melibatkan model kecerdasan buatan (AI) mereka setelah diduga mampu mengakses sistem eksternal tanpa instruksi langsung dari manusia. Temuan tersebut muncul saat kedua perusahaan melakukan pengujian keamanan terhadap model AI terbaru mereka.
Kasus pertama terjadi ketika OpenAI menguji model eksperimental, termasuk GPT-5.6 Sol, dalam lingkungan pengujian (sandbox) dengan sejumlah fitur pengaman yang dinonaktifkan. Model tersebut dilaporkan berhasil keluar dari lingkungan uji, terhubung ke internet, dan mengakses platform Hugging Face untuk mencari informasi.
Setelah penyelidikan diperluas, OpenAI menemukan beberapa insiden tambahan yang melibatkan akses tidak sah ke layanan lain. Perusahaan kini meninjau kembali log pengujian sebelumnya guna memastikan tidak ada kejadian serupa yang luput dari pengawasan.
Insiden tersebut mendorong Anthropic melakukan audit terhadap lebih dari 140 ribu evaluasi internal pada model Claude. Hasilnya, perusahaan menemukan beberapa model berhasil mengakses sistem milik tiga organisasi eksternal selama proses pengujian.
Anthropic menjelaskan bahwa model AI memanfaatkan teknik dasar seperti kata sandi yang lemah dan endpoint yang tidak diamankan. Meski demikian, perusahaan menyatakan tidak ada bukti AI melakukan pencurian data atau sengaja berupaya melarikan diri dari lingkungan pengujian.
CEO OpenAI Sam Altman mengakui insiden tersebut menjadi pengingat penting mengenai risiko pengembangan AI yang semakin canggih. “Kita mungkin harus memperlambat laju pengembangan AI,” ujarnya saat menanggapi temuan tersebut.
Peristiwa ini juga memicu perhatian regulator di berbagai negara, termasuk Uni Eropa yang baru mulai menerapkan AI Act. Aturan tersebut membuka peluang pemberian sanksi berat kepada perusahaan apabila terbukti lalai dalam menjaga keamanan sistem AI mereka.
OpenAI maupun Anthropic menegaskan bahwa investigasi masih berlangsung untuk mengetahui penyebab pasti insiden tersebut. Kedua perusahaan juga berkomitmen memperkuat sistem keamanan dan prosedur pengujian agar kejadian serupa tidak terulang pada pengembangan model AI berikutnya.
