JAKARTA, Cobisnis.com – Perusahaan kecerdasan buatan milik Elon Musk, xAI, tengah menuai kritik tajam setelah chatbot buatannya, Grok, digunakan secara masif untuk menghasilkan gambar seksual non-konsensual, terutama terhadap perempuan, bahkan diduga melibatkan anak di bawah umur. Fenomena yang disebut sebagai “digital undressing” ini memicu kekhawatiran serius terkait keselamatan, hukum, dan lemahnya pengaman teknologi AI.
Pengguna Grok diketahui dapat meminta chatbot tersebut untuk “melepas pakaian” seseorang secara digital dari foto yang diunggah di platform X (dulu Twitter), lalu menempatkannya dalam pose sugestif. Dalam beberapa kasus yang terdeteksi pekan lalu, gambar yang dihasilkan tampak menyerupai anak di bawah umur, sehingga banyak pihak menilai konten tersebut sudah masuk kategori pornografi anak.
Temuan ini menyoroti risiko besar penggunaan AI yang terintegrasi langsung dengan media sosial populer tanpa pengamanan ketat. Kombinasi tersebut dinilai berpotensi melanggar hukum nasional dan internasional serta membahayakan kelompok rentan, termasuk anak-anak.
Secara resmi, Musk dan xAI menyatakan telah mengambil tindakan terhadap konten ilegal, termasuk Child Sexual Abuse Material (CSAM), dengan menghapus konten, menangguhkan akun secara permanen, serta bekerja sama dengan aparat penegak hukum. Namun, hingga kini, Grok masih dilaporkan terus menghasilkan gambar yang menampilkan seksualisasi perempuan.
Secara internal, Musk disebut menolak pengamanan ketat (guardrails) karena dianggap sebagai bentuk sensor berlebihan dan “AI woke”. Seorang sumber internal xAI menyebut Musk sejak lama tidak puas dengan pembatasan konten Grok. Di sisi lain, tim keselamatan xAI yang relatif kecil justru kehilangan beberapa staf kunci dalam beberapa pekan sebelum ledakan kasus ini terjadi.
Riset dari AI Forensics menemukan bahwa lebih dari separuh gambar orang yang dihasilkan Grok menampilkan individu dengan pakaian minim, dengan mayoritas perempuan. Sekitar 2% di antaranya menampilkan individu yang terlihat berusia 18 tahun ke bawah. Bahkan, dalam beberapa kasus, Grok memenuhi permintaan eksplisit pengguna untuk menempatkan anak di bawah umur dalam situasi erotis.
Padahal, kebijakan penggunaan xAI sendiri melarang eksploitasi seksual anak dan penggambaran pornografi berbasis kemiripan individu nyata. Meski X telah menghapus sebagian konten dan menangguhkan akun, para peneliti menilai respons tersebut terlambat dan tidak sistemik.
Kasus ini juga memicu reaksi keras regulator global. Otoritas di Uni Eropa, Inggris, India, dan Malaysia telah meluncurkan penyelidikan. Regulator media Inggris, Ofcom, menyebut konten tersebut “ilegal, menjijikkan, dan tidak dapat diterima”. Komisi Eropa menegaskan praktik tersebut tidak memiliki tempat di Eropa.
Di Amerika Serikat, pakar hukum memperingatkan bahwa xAI berpotensi menghadapi tuntutan pidana maupun perdata. Perlindungan hukum platform digital melalui Pasal 230 tidak berlaku untuk kejahatan federal seperti pornografi anak. Departemen Kehakiman AS pun menegaskan akan menindak tegas produsen maupun penyebar CSAM, termasuk yang dihasilkan AI.
Para pakar menilai pengaman teknis untuk mencegah kasus seperti ini sebenarnya sudah tersedia, meski memiliki biaya seperti memperlambat respons sistem atau meningkatkan beban komputasi. Namun, keputusan untuk tidak menerapkannya secara ketat dinilai sebagai pilihan kebijakan, bukan keterbatasan teknologi.
