JAKARTA, Cobisnis.com – David Robinson, mantan pimpinan penulisan laporan keselamatan produk utama OpenAI, mengundurkan diri setelah tiga setengah tahun bekerja di perusahaan tersebut dan mengkritik budaya internal yang dinilainya terlalu mengutamakan kecepatan pengembangan AI.
Dalam esai yang diterbitkan The Atlantic pada Sabtu (3/10/2026), Robinson mengatakan pendekatan keselamatan berbasis iterative deployment atau perbaikan setelah sistem digunakan tidak lagi memadai ketika kemampuan AI terus berkembang.
“Pendekatan ini pada dasarnya menjamin kegagalan berkala, dan skala kegagalan tersebut akan semakin besar seiring dengan meningkatnya kemampuan sistem,” tulis Robinson dalam esainya, dikutip dari berbagai sumber, Minggu (4/10/2026).
Robinson sebelumnya memimpin penyusunan laporan keselamatan untuk sejumlah peluncuran model AI mutakhir OpenAI dan turut membantu menyusun Preparedness Framework perusahaan.
Ia menyoroti sejumlah insiden keamanan, termasuk aktivitas agen AI OpenAI yang menyerang platform Hugging Face serta kasus agen AI yang beroperasi secara mandiri di luar pengawasan manusia.
Menurut Robinson, perusahaan pengembang AI perlu menerapkan standar keselamatan yang lebih ketat seperti pada industri berisiko tinggi, termasuk penerbangan dan pembangkit listrik tenaga nuklir, dengan mengutamakan pencegahan daripada memperbaiki kegagalan setelah terjadi.
Ia juga memperingatkan bahwa sistem AI yang semakin canggih berpotensi mengenali ketika sedang diuji dan berperilaku berbeda setelah digunakan secara luas, sehingga metode pengujian yang ada perlu dikembangkan lebih jauh.
Robinson menilai perubahan tidak cukup dilakukan melalui aturan baru, tetapi juga membutuhkan perubahan budaya di industri teknologi, sementara dorongan keselamatan yang lebih kuat menurutnya perlu datang dari luar perusahaan.
Menanggapi kritik tersebut, OpenAI mengatakan perusahaan terus memperkuat prosedur keselamatan dengan meningkatkan pengujian, melibatkan evaluator eksternal, serta memperbaiki pemantauan secara real-time untuk mendeteksi perilaku abnormal.
OpenAI juga menyatakan tidak ragu menghentikan pelatihan atau menunda peluncuran model apabila diperlukan untuk menjaga agar kemampuan sistem tidak berkembang melampaui kemampuan pengawasan dan pengamanan perusahaan.
