JAKARTA, Cobisnis.com – CEO Anthropic Dario Amodei mengusulkan agar perusahaan kecerdasan buatan atau AI mulai mengerem laju pengembangan model. Menurutnya, langkah tersebut diperlukan untuk memastikan teknologi AI dikembangkan dengan sistem keamanan yang memadai.
Usulan itu disampaikan Amodei melalui sebuah esai yang membahas risiko AI terhadap masa depan umat manusia. Ia mengusulkan tiga langkah untuk memperlambat pengembangan AI tanpa mengorbankan kepemimpinan dan keunggulan komersial Amerika Serikat di bidang tersebut.
Langkah pertama adalah memberikan akses kepada evaluator pihak ketiga dengan tingkat akses seperti karyawan. Evaluator tersebut dapat memverifikasi praktik keselamatan dan pelaporan insiden yang dilakukan perusahaan AI.
Anthropic disebut telah berkomitmen secara sepihak terhadap langkah pertama tersebut. Evaluasi eksternal diharapkan dapat memastikan sistem keamanan perusahaan berjalan sesuai dengan standar yang ditetapkan.
Langkah kedua yang diusulkan Amodei adalah mendorong perusahaan AI di negara demokratis untuk berkoordinasi. Kerja sama tersebut diarahkan untuk membangun standar keamanan bersama dalam pengembangan teknologi AI.
Sementara langkah ketiga menyasar kerja sama antara pemerintah negara demokratis dan pemerintahan otoriter. Koordinasi lintas pemerintahan dinilai diperlukan untuk menghadapi risiko yang dapat muncul dari perkembangan AI.
“Agar jelas, pengereman bukan berarti menghentikan pelatihan model atau kemajuan teknis, tetapi memastikan perusahaan mengambil waktu yang cukup untuk menyelaraskan dan menjaga model mereka, dan agar evaluator pihak ketiga dapat mengonfirmasinya,” tulis Amodei.
Usulan tersebut muncul setelah peneliti Anthropic Jacob Coxon mengumumkan pengunduran dirinya. Coxon, yang sebelumnya juga pernah bekerja di OpenAI, menyebut adanya kekhawatiran di kalangan pengembang AI mengenai potensi teknologi tersebut terhadap keselamatan manusia.
Kekhawatiran mengenai risiko AI sebenarnya telah muncul dalam beberapa tahun terakhir. Pada 2023, sejumlah peneliti dan eksekutif AI, termasuk Amodei dan CEO OpenAI Sam Altman, menandatangani pernyataan mengenai pengurangan risiko kepunahan akibat AI.
Amodei mengatakan upaya memperlambat pengembangan AI sebelumnya telah dipertimbangkan sejak 2023. Namun, menurutnya, langkah tersebut belum masuk akal pada saat itu karena model AI belum cukup pintar untuk melakukan tindakan signifikan di dunia nyata.
“Saya tetap percaya bahwa AI dapat meningkatkan kualitas hidup manusia secara signifikan. Keinginan saya untuk mencapai keuntungan ini tidak berkurang,” tulis Amodei.
Ia menegaskan manfaat AI tetap menjadi tujuan yang ingin dicapai. Namun, pengembangan teknologi tersebut dinilai perlu dilakukan secara hati hati agar manfaatnya tidak datang dengan risiko yang lebih besar bagi manusia.
