JAKARTA, Cobisnis.com – Teknologi kecerdasan buatan atau AI mulai menimbulkan kekhawatiran baru dalam penyelenggaraan pemilu di Asia Tenggara. Teknologi ini dinilai dapat digunakan untuk memproduksi berita palsu dan disinformasi secara masif melalui internet dan media sosial.
Laporan perusahaan AI Anthropic pada September mengungkap penggunaan Claude AI untuk menyebarkan pengaruh politik di sejumlah daerah pemilihan Malaysia. Teknologi tersebut disebut menjadi bagian dari upaya manipulasi pemilu yang dilakukan secara terorganisasi.
Dalam kasus tersebut, pelaku diduga menggunakan sekitar 1.000 akun X, portal berita palsu bernama Malaysia Pulse, serta sejumlah dokumen palsu. Targetnya adalah calon pemilih di 222 daerah pemilihan parlemen Malaysia.
Konten yang diproduksi juga mengeksploitasi isu politik dan sosial yang sensitif, termasuk isu suku, agama, ras, dan antargolongan atau SARA. Kondisi tersebut dinilai berpotensi memperbesar polarisasi di tengah masyarakat.
Bridget Welsh dari University of Nottingham Asia Research Institute Malaysia menilai dampaknya tidak hanya berupa penyebaran informasi palsu. Menurutnya, situasi tersebut dapat memperparah perpecahan politik di Malaysia.
“Hal itu memicu polarisasi politik dan memperparah perpecahan. Fragmentasi itulah yang benar-benar mengkhawatirkan dari apa yang terjadi di Malaysia,” kata Bridget.
Laporan tersebut juga mencatat media palsu mengambil berita dari media massa Malaysia, kemudian meminta model AI menulis ulang konten tersebut beberapa kali sebelum dipublikasikan dengan nama samaran. Mereka juga mengambil berita dari sejumlah media asing tanpa mencantumkan sumber.
Di antaranya terdapat konten dari TV BRICS, Xinhua, Sputnik atau RIA, dan CGTN. Penggunaan AI membuat produksi serta penyebaran konten tersebut dapat dilakukan dengan lebih cepat dan dalam jumlah besar.
Operasi tersebut akhirnya dihentikan setelah Anthropic mengambil tindakan dan menghapus akun yang digunakan. Namun, kasus tersebut memunculkan kekhawatiran mengenai penggunaan AI sebagai alat politik dalam pemilu mendatang.
Asia Tenggara dinilai menjadi kawasan yang rentan karena masyarakatnya menghabiskan banyak waktu di media sosial. Kondisi ini membuat konten palsu yang dibuat secara cepat dan dalam jumlah besar berpotensi memiliki jangkauan yang luas.
Jurnalis Filipina dan peraih Nobel Maria Ressa menyebut Asia Tenggara telah lama menjadi tempat uji coba teknik propaganda dan manipulasi publik. Teknik tersebut kemudian dapat direplikasi di wilayah lain, termasuk negara-negara Barat.
Sejumlah negara Asia Tenggara juga akan menghadapi pemilu dalam beberapa tahun mendatang. Malaysia diperkirakan menggelar pemilu pada akhir 2027, sementara Filipina dan Kamboja dijadwalkan mengadakan pemilu pada 2028 dan Indonesia pada 2029.
Ben Loh dari Monash University Malaysia mengatakan AI juga dapat memperkuat ketegangan sosial yang sudah ada. Salah satu contohnya berkaitan dengan kebencian terhadap pengungsi Rohingya.
“Situasinya sudah sampai pada titik di mana orang-orang sudah memiliki kebencian yang mendalam dalam pikiran mereka, dan ketika mereka melihat konten seperti ini, meskipun dihasilkan oleh AI, itu akan semakin memperkuat apa yang mereka yakini,” kata Loh.
Sementara itu, pemimpin perusahaan konsultan teknologi Anchor Change, Katie Harbath, menilai kasus tersebut menunjukkan bagaimana AI dapat mempermudah penyebaran informasi palsu. Teknologi tersebut membuat produksi konten menjadi lebih cepat, personal, dan murah.
“AI dapat mempercepat proses pembuatan lebih banyak konten yang lebih personal, lebih cepat, dan lebih murah,” kata Harbath.
