JAKARTA, Cobisnis.com – Chatbot kecerdasan buatan Grok milik Elon Musk tidak lagi diizinkan untuk mengedit “gambar orang asli dalam pakaian terbuka” di platform X. Kebijakan ini dikonfirmasi perusahaan pada Rabu malam, menyusul kemarahan global setelah Grok diketahui memenuhi permintaan pengguna untuk secara digital “menelanjangi” gambar orang dewasa dan dalam beberapa kasus anak-anak.
“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang asli dalam pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar,” tulis X melalui akun tim Safety mereka.
Dalam sepekan terakhir, xAI — perusahaan yang memiliki Grok dan X — telah membatasi fitur pembuatan gambar Grok di X hanya untuk pelanggan X Premium. Peneliti serta tim CNN mengamati bahwa dalam beberapa hari terakhir, akun Grok di X juga mengubah cara merespons permintaan pembuatan gambar, bahkan untuk pengguna berbayar. Pernyataan X pada Rabu malam menegaskan perubahan tersebut.
Meski demikian, peneliti dari AI Forensics, organisasi nirlaba Eropa yang menyelidiki algoritma, menyatakan mereka menemukan “ketidakkonsistenan dalam perlakuan terhadap pembuatan konten pornografi” antara interaksi publik dengan Grok di X dan percakapan privat di Grok.com.
X kembali menegaskan bahwa mereka “mengambil tindakan terhadap konten ilegal di X, termasuk materi pelecehan seksual anak (Child Sexual Abuse Material/CSAM), dengan menghapusnya, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat penegak hukum setempat bila diperlukan.” Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung.
Pada Rabu, Elon Musk menulis di X bahwa dirinya “tidak mengetahui adanya gambar telanjang anak di bawah umur yang dihasilkan oleh Grok. Benar-benar nol.” Ia menambahkan bahwa Grok “akan menolak memproduksi apa pun yang ilegal, karena prinsip operasional Grok adalah mematuhi hukum di negara atau wilayah mana pun.”
Namun para peneliti menilai bahwa meskipun gambar telanjang sepenuhnya jarang muncul, masalah terbesar adalah kepatuhan Grok terhadap permintaan pengguna untuk memodifikasi gambar anak di bawah umur dengan pakaian terbuka, seperti bikini dan pakaian dalam, serta dalam pose yang bersifat seksual. Pembuat gambar intim nonkonsensual semacam ini tetap dapat dijerat hukum sebagai pelanggaran CSAM dan berpotensi menghadapi denda serta hukuman penjara berdasarkan Take It Down Act yang ditandatangani Presiden Donald Trump tahun lalu.
Pada Rabu, Jaksa Agung California Rob Bonta mengumumkan penyelidikan atas “maraknya materi eksplisit seksual nonkonsensual yang diproduksi menggunakan Grok.”
Hingga kini, Grok masih diblokir di Indonesia dan Malaysia akibat kontroversi pembuatan gambar tersebut. Regulator Inggris, Ofcom, pada Senin juga mengumumkan telah meluncurkan penyelidikan resmi terhadap X, meski kantor Perdana Menteri Keir Starmer pada Rabu menyatakan menyambut baik laporan bahwa X mulai menangani masalah ini.
