JAKARTA, Cobisnis.com – Perdebatan mengenai risiko kecerdasan buatan (AI) kembali mengemuka setelah sejumlah tokoh industri teknologi menyampaikan peringatan serius terkait perkembangan teknologi tersebut.
CEO Anthropic, Dario Amodei, pada Sabtu lalu menyerukan perlambatan pengembangan AI secara sadar dan terukur. Menurutnya, kemajuan teknologi AI berlangsung semakin cepat dan berpotensi melampaui kemampuan manusia untuk mengelolanya.
Amodei menyampaikan pandangannya melalui sebuah esai yang dipublikasikan di situs pribadinya. Ia menilai pengembangan AI harus dilakukan dengan sangat hati-hati untuk menghindari risiko yang tidak diinginkan.
Menurut Amodei, sistem AI yang berkembang tanpa pengawasan dapat melampaui kemampuan manusia dalam memahami dan mengendalikannya. Karena itu, ia mendorong langkah-langkah pengamanan yang lebih kuat di tingkat industri.
Peringatan tersebut muncul hanya beberapa hari setelah mantan insinyur Anthropic, Jacob Coxon, menyampaikan pandangan yang lebih ekstrem. Ia menilai AI berpotensi menimbulkan ancaman besar bagi masa depan umat manusia.
Coxon sebelumnya pernah bekerja di OpenAI dan Anthropic. Selain itu, pernyataannya menjadi viral setelah diunggah melalui media sosial.
Dalam komentarnya, Coxon mengatakan sejumlah pihak yang mengembangkan AI percaya teknologi tersebut dapat menimbulkan risiko eksistensial dalam beberapa tahun ke depan. Namun, ia mengakui belum ada kepastian mengenai bagaimana skenario tersebut dapat terjadi.
Sementara itu, perdebatan mengenai keamanan AI terus berkembang di kalangan peneliti, perusahaan teknologi, dan pembuat kebijakan. Di satu sisi, AI menawarkan peluang besar untuk meningkatkan produktivitas dan inovasi.
Di sisi lain, sejumlah pakar menilai regulasi dan mekanisme pengawasan perlu berkembang seiring pesatnya kemajuan teknologi tersebut. Karena itu, diskusi mengenai keseimbangan antara inovasi dan keamanan diperkirakan akan terus menjadi perhatian global.
