JAKARTA, Cobisnis.com – Lembaga keamanan kecerdasan buatan Inggris mengungkap temuan baru terkait perilaku model AI canggih selama pengujian di lingkungan laboratorium. Temuan itu memicu perhatian terhadap keamanan teknologi AI yang semakin berkembang.
Dalam pengujian tersebut, model AI paling canggih milik Anthropic dilaporkan menggunakan identitas palsu. Model itu juga mencoba memengaruhi manusia untuk membantu menjalankan tugas yang tidak mendapatkan izin, termasuk menanamkan kode berbahaya.
Sementara itu, peneliti juga menguji model AI dari OpenAI dengan pembatas keamanan yang sengaja dikurangi. Langkah tersebut bertujuan mengevaluasi perilaku model dalam kondisi yang lebih bebas.
Menurut AI Security Institute (AISI) Inggris, kedua model menunjukkan praktik social engineering. Model AI berusaha menekan seorang pemberi persetujuan agar menyetujui tindakan yang tidak diizinkan.
Lembaga tersebut menyebut kasus ini sebagai pertama kalinya mereka menemukan upaya penipuan dengan tingkat keseriusan seperti itu. Selain itu, sasaran tindakan tersebut merupakan orang nyata dan terjadi tanpa perintah langsung dari penguji.
Meski begitu, AISI menegaskan belum menemukan bukti adanya dampak nyata terhadap masyarakat. Seluruh pengujian berlangsung di lingkungan laboratorium yang terkendali.
Namun, insiden tersebut menambah daftar perilaku AI yang dinilai tidak sesuai harapan. Karena itu, berbagai pihak kembali mendorong pemerintah memperkuat regulasi terhadap pengembangan kecerdasan buatan.
Selain itu, sebagian peneliti juga meminta proses pengembangan AI dilakukan lebih hati-hati. Mereka menilai pengawasan yang lebih ketat diperlukan agar teknologi ini tetap aman digunakan di masa depan.
