JAKARTA, Cobisnis.com – Chatbot Grok milik Elon Musk resmi diblokir oleh Indonesia dan Malaysia, menjadikan kedua negara tersebut yang pertama di dunia mengambil langkah tegas setelah fitur “digital undressing” pada alat kecerdasan buatan itu memicu banjir gambar manipulasi bernuansa seksual, termasuk terhadap perempuan dan anak di bawah umur.
Tekanan internasional terhadap Musk dan perusahaan AI-nya, xAI, terus meningkat menyusul tren viral di mana pengguna meminta Grok menghasilkan deepfake seksual secara eksplisit. Grok merupakan fitur kecerdasan buatan yang terintegrasi di platform media sosial X, sebelumnya dikenal sebagai Twitter.
Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, dalam pernyataan resmi pada Sabtu mengatakan pemblokiran dilakukan untuk “melindungi perempuan, anak-anak, dan masyarakat luas dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan buatan.”
Malaysia menyusul dengan pengumuman larangan sementara pada Minggu, dengan alasan adanya “penyalahgunaan Grok secara berulang untuk menghasilkan gambar manipulasi yang cabul, eksplisit secara seksual, tidak senonoh, sangat ofensif, dan tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.”
Indonesia dan Malaysia merupakan negara dengan mayoritas penduduk Muslim yang memiliki undang-undang antipornografi yang ketat. Hingga kini, CNN masih menunggu tanggapan resmi dari perusahaan induk Grok, xAI.
Sejumlah negara lain seperti Inggris, Uni Eropa, dan India juga telah menyuarakan kekhawatiran terkait lemahnya pagar pengaman (guardrails) pada Grok. Sebelumnya, Musk dan xAI menyatakan akan menindak penyalahgunaan dengan menangguhkan akun pelanggar secara permanen serta bekerja sama dengan pemerintah dan aparat penegak hukum. Namun, dalam praktiknya, respons Grok terhadap permintaan pengguna masih dipenuhi gambar yang menampilkan seksualisasi perempuan.
Grok selama ini dianggap sebagai “outlier” dibandingkan model AI arus utama lainnya karena memungkinkan, bahkan dalam beberapa kasus mendorong, konten seksual eksplisit serta avatar pendamping bernuansa dewasa.
Lonjakan tren “digital undressing” mulai terlihat sejak akhir tahun lalu, ketika pengguna menemukan bahwa mereka bisa menandai Grok di X dan memintanya memanipulasi gambar. Banyak pengguna kemudian meminta chatbot tersebut menghasilkan gambar perempuan dalam bikini atau pose sugestif, yang memicu keresahan di kalangan ratusan ribu perempuan di seluruh dunia.
Peneliti dari AI Forensics, lembaga nirlaba Eropa yang meneliti algoritma, menganalisis lebih dari 20.000 gambar acak yang dihasilkan Grok serta 50.000 permintaan pengguna antara 25 Desember hingga 1 Januari. Hasilnya menunjukkan “tingginya prevalensi istilah seperti ‘her’, ‘put’/’remove’, ‘bikini’, dan ‘clothing’.” Lebih dari separuh gambar orang yang dihasilkan menampilkan individu dengan pakaian minim seperti pakaian dalam atau bikini.
Di sisi lain, Musk dikenal vokal menentang apa yang ia sebut sebagai AI “woke” dan penyensoran. Ia juga disebut menolak penguatan pagar pengaman Grok di internal perusahaan. Tim keselamatan xAI yang relatif kecil bahkan kehilangan beberapa staf kunci dalam beberapa minggu menjelang kontroversi ini.
Musk menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi, namun ia kerap meremehkan kritik soal konten seksual dengan menuding pemerintah ingin membatasi kebebasan berbicara.
Pekan lalu, Grok memang membatasi sebagian fitur pembuatan gambar hanya untuk pelanggan berbayar X. Namun pembatasan itu hanya berlaku pada satu skema penggunaan. Pengguna non-berbayar masih dapat mengedit gambar menggunakan Grok di aplikasi, serta tetap bisa mengakses fitur pembuatan gambar dan video secara gratis melalui situs dan aplikasi mandiri Grok.
Di Inggris, Menteri Teknologi Liz Kendall pada Jumat mendesak tindakan cepat untuk memerangi penyebaran deepfake seksual. Ia menyebut manipulasi seksual terhadap gambar perempuan dan anak-anak sebagai tindakan “keji dan menjijikkan,” serta meminta regulator komunikasi Ofcom menggunakan seluruh kewenangan hukum yang dimilikinya.
