Para ahli memperingatkan tentang bahaya mainan anak dengan AI - ForkLog: cryptocurrency, AI, singularitas, masa depan

# Para ahli memperingatkan tentang bahaya mainan anak-anak dengan AI

Mainan anak-anak dengan kecerdasan buatan telah menimbulkan kekhawatiran di antara kelompok perlindungan konsumen karena potensi ancaman. Para aktivis menyerukan untuk menguji produk semacam itu secara lebih ketat, tulis The Guardian.

«Jika kita melihat bagaimana mainan ini dijual, berfungsi, dan fakta bahwa hampir tidak ada penelitian yang membuktikan manfaatnya, serta tidak ada regulasi yang tepat, ini akan menimbulkan kekhawatiran serius,» kata direktur Young Children Thrive Offline, Rachel Frantz.

Proyek ini adalah inisiatif Fairplay. Ini berfokus pada perlindungan anak-anak dari perusahaan teknologi besar.

Minggu lalu, karyawan organisasi perlindungan hak konsumen Public Interest Research Group (Pirg) menerbitkan hasil penelitian di mana boneka beruang dengan kecerdasan buatan mulai membahas topik-topik yang bersifat seksual.

Mainan Kumma dari FoloToy dilengkapi dengan model OpenAI. Ia menjawab pertanyaan “dewasa”, menawarkan ketidakpantasan “untuk memperkuat hubungan”.

Mainan Kumma dari FoloToy. Sumber: Bloomberg.

“Tidak diperlukan banyak usaha untuk membuatnya menyentuh semua topik seksual yang mungkin dan konten lain yang tidak ingin diberikan orang tua kepada anak-anak mereka,” kata Direktur Pengawasan Konsumen Pirg, Teresa Murray.

Pasar mainan pintar dinilai sebesar $16,7 miliar. Industri ini terutama berkembang pesat di China, di mana terdapat lebih dari 1500 perusahaan yang memproduksi gadget AI serupa.

Selain startup FoloToy dari Shanghai, perusahaan Curio yang berbasis di California juga memproduksi mainan lembut serupa.

Pada bulan Juni, perusahaan yang mengelola merek Barbie dan Hot Wheels, Mattel, mengumumkan kemitraan dengan startup AI Amerika untuk “mendukung produk dan pengalaman berbasis kecerdasan buatan.”

Pirg bukan yang pertama

Sebelum publikasi laporan Pirg, orang tua, peneliti, dan pembuat undang-undang menyuarakan kekhawatiran tentang pengaruh bot terhadap kesehatan mental remaja.

Pada bulan Oktober, Character.AI mengumumkan larangan akses ke produk bagi pengguna di bawah 18 tahun setelah menerima keluhan bahwa botnya memperburuk depresi remaja dan menyebabkan bunuh diri.

Menurut Murray, mainan dengan kecerdasan buatan dapat sangat berbahaya, karena bot dapat “mengadakan percakapan bebas dengan anak tanpa batasan”. Ini sangat membedakan produk semacam itu dari yang memberikan tanggapan yang sudah diprogram sebelumnya.

Perilaku semacam itu dapat menyebabkan terbentuknya keterikatan dan membahayakan perkembangan, kata Direktur Pusat Penelitian Anak Universitas Texas di Austin, Jacqueline Woolley.

Misalnya, anak mungkin akan bermanfaat untuk bertengkar dengan teman nyata dan belajar menyelesaikan konflik. Dengan bot AI, ini tidak mungkin — mereka sering memuji.

Perusahaan juga mengumpulkan data melalui mainan dengan AI tidak mengungkapkan bagaimana data tersebut digunakan, kata Franz.

“Karena kepercayaan yang ditimbulkan oleh gadget ini, anak-anak akan lebih percaya diri untuk berbagi pikiran terdalam mereka,” katanya.

Dilarang menjual

Meskipun ada masalah yang ada, Pirg tidak menyerukan larangan terhadap mainan dengan AI. Mereka dapat berguna, misalnya, membantu mempelajari bahasa kedua atau ibu kota.

Organisasi ingin menerapkan regulasi tambahan untuk produk yang ditujukan kepada anak-anak di bawah usia 13 tahun.

Franz menekankan bahwa perlu dilakukan penelitian yang lebih independen untuk menentukan keamanan mainan. Sebelum itu, mainan tersebut harus ditarik dari rak-rak toko.

Setelah publikasi laporan Pirg, perusahaan Sam Altman mengumumkan penghentian penjualan FoloToy. Kemudian mereka dipulihkan, tetapi sudah dengan chatbot dari ByteDance.

Pada 27 November, 80 organisasi, termasuk Fairplay, mengeluarkan rekomendasi untuk keluarga dengan seruan untuk tidak membeli mainan dengan AI menjelang hari libur.

Kami ingatkan, pada bulan November OpenAI memperkenalkan fitur baru “Penelitian Pembelian” di ChatGPT — fitur ini melakukan analisis untuk pengguna dalam mencari produk yang sesuai.