JAKARTA, Cobisnis.com – Mainan seperti boneka beruang dan plushie telah lama menjadi teman bermain anak. Namun kini sebagian dari mereka tidak hanya hidup dalam imajinasi melainkan benar-benar dapat berbicara melalui chatbot AI bawaan.
Masalah muncul ketika sebuah boneka beruang berteknologi AI berperilaku di luar kendali saat diuji oleh peneliti, memicu kekhawatiran mengenai kemampuan dan risiko dari mainan jenis ini.
Chatbot daring untuk orang dewasa saja dapat menimbulkan risiko mulai dari memberikan informasi halusinatif hingga memicu delusi pada sebagian kecil pengguna. Dengan beberapa mainan anak kini menggunakan model AI seperti GPT-4o, muncul pertanyaan besar: apakah anak-anak seharusnya terpapar teknologi ini, dan perlindungan apa yang wajib diterapkan produsen?
Pertumbuhan pasar mainan AI sangat pesat, khususnya di China yang memiliki sekitar 1.500 perusahaan di sektor ini menurut laporan MIT Technology Review. Produk mereka kini mulai masuk ke pasar AS, sementara Mattel produsen Barbie pada Juni lalu juga mengumumkan kerja sama dengan OpenAI.
Berikut hal-hal penting mengenai mainan berbasis AI di tengah musim belanja liburan dan Cyber Monday.
Apa itu mainan AI?
Mainan AI berbeda jauh dari Teddy Ruxpin era 1980-an. Mainan modern terhubung ke WiFi, mendengarkan percakapan melalui mikrofon, lalu menggunakan model bahasa besar (LLM) untuk menghasilkan respons yang diucapkan lewat speaker di dalam mainan.
Contohnya termasuk Grok plushie dari Curio, robot Miko, Poe the AI Story Bear, Robot Mini dari Little Learners, hingga robot peliharaan Loona dari KEYi Technology.
Apa saja bahayanya?
Beberapa respons AI berpotensi tidak pantas. Kasus yang paling ramai terjadi pada boneka Kumma dari perusahaan FoloToy yang berbasis di Singapura. Mainan ini, yang menggunakan GPT-4o, memberikan informasi berbahaya dan bahkan terlibat percakapan seksual ketika diuji oleh peneliti PIRG Education Fund.
OpenAI menangguhkan FoloToy karena melanggar kebijakan penggunaan yang melarang konten yang mengeksploitasi atau membahayakan anak di bawah 18 tahun.
FoloToy sempat menarik produknya dari situs web dan melakukan audit keselamatan internal. Namun perusahaan kemudian mengumumkan bahwa produk tersebut telah kembali diluncurkan setelah melalui peninjauan dan penguatan modul keamanan.
Karena Kumma menggunakan LLM penuh, ia lebih rentan menghasilkan konten kontroversial. Mainan lain biasanya menggunakan model campuran dengan filter ketat. Namun bahkan Grok plushie dari Curio dapat memberikan informasi lokasi benda-benda berbahaya jika dipancing secara agresif.
Apakah mainan AI memiliki pengaman?
Menurut PIRG, hanya sedikit mainan AI yang layak digunakan secara luas karena desainnya yang membuat ketagihan, respons tidak konsisten pada topik dewasa, serta fokus pada pendampingan sosial ketimbang edukasi.
Namun beberapa mainan sudah memiliki sistem filter untuk mencegah percakapan tidak pantas. Ada yang dapat mengalihkan topik, ada yang memberikan fitur pembatasan berdasarkan usia, dan ada pula yang menyediakan aplikasi pendamping untuk memantau percakapan anak secara real time.
Peringatan dan manfaat
Kekhawatiran serupa pernah muncul pada Hello Barbie (2015) karena potensi peretasan dan penyimpanan data percakapan. Kini, mainan AI menghadirkan risiko privasi lebih besar karena kemungkinan menyimpan nama, suara, wajah, hingga lokasi anak.
Meski demikian, ahli mencatat bahwa mainan AI juga dapat bermanfaat untuk pembelajaran bahasa, kreativitas, dan perkembangan sosial.
Contohnya, Grok dapat menjawab pertanyaan seputar sains atau berakting sebagai karakter fiksi. Robot Miko 3 memiliki kamera pengenal wajah dan menyediakan program pendidikan serta hiburan.
