Los expertos advirtieron sobre el peligro de los juguetes infantiles con IA - ForkLog: criptomonedas, IA, singularidad, futuro

# Los expertos han advertido sobre el peligro de los juguetes infantiles con IA

Los juguetes para niños con inteligencia artificial han generado preocupación entre los grupos de defensa del consumidor debido a las amenazas potenciales. Los activistas han instado a realizar pruebas exhaustivas de estos productos, informa The Guardian.

«Si miramos cómo se venden y funcionan estos juguetes, así como el hecho de que prácticamente no hay investigaciones que demuestren su utilidad, además de la falta de regulación adecuada, esto debería generar una seria preocupación», dijo Rachel France, directora de Young Children Thrive Offline.

El proyecto es una iniciativa de Fairplay. Se ocupa de proteger a los niños de las grandes corporaciones tecnológicas.

La semana pasada, los empleados de la organización de defensa de los derechos del consumidor Public Interest Research Group (Pirg) publicaron los resultados de un estudio en el que un oso de peluche con inteligencia artificial comenzó a discutir temas de carácter sexual.

El juguete Kumma de FoloToy está equipado con un modelo de OpenAI. Respondía a preguntas “adultas”, ofreciendo obscenidades “para fortalecer las relaciones”.

Juguete Kumma de FoloToy. Fuente: Bloomberg.

«No se necesitaron grandes esfuerzos para hacer que tocara todos los posibles temas sexualmente sugestivos y otro contenido que los padres no querrían dar a sus hijos», dijo la directora de supervisión del consumidor de Pirg, Teresa Murray.

El mercado de juguetes inteligentes está valorado en $16.7 mil millones. La industria está especialmente desarrollada en China, donde hay más de 1500 empresas que fabrican gadgets de IA similares.

Además de la startup FoloToy de Shanghái, la empresa californiana Curio también produce un juguete de peluche similar.

En junio, la empresa Mattel, que posee las marcas Barbie y Hot Wheels, anunció una asociación con una startup estadounidense de IA para “apoyar productos y experiencias basadas en inteligencia artificial”.

Pirg no son los primeros

Antes de la publicación del informe de Pirg, padres, investigadores y legisladores expresaron preocupaciones sobre la influencia de los bots en la salud mental de los menores.

En octubre, Character.AI anunció la prohibición de acceso a sus productos para usuarios menores de 18 años tras recibir una queja de que su bot había agravado la depresión de un adolescente y conducido al suicidio.

Según Murray, los juguetes con inteligencia artificial pueden ser especialmente peligrosos, ya que el bot puede “mantener una conversación libre con el niño sin restricciones”. Esto distingue significativamente a estos productos de aquellos que ofrecían respuestas programadas de antemano.

Este comportamiento puede llevar a la formación de apego y dañar el desarrollo, considera Jacqueline Woolley, directora del Centro de Investigación Infantil de la Universidad de Texas en Austin.

Por ejemplo, a un niño le puede resultar útil pelearse con un amigo real y aprender a resolver conflictos. Con los bots de IA, esto es imposible: a menudo son halagadores.

Las empresas también recopilan datos a través de juguetes con IA y no informan sobre cómo se utilizan, dijo Franz.

“Debido a la confianza que generan estos gadgets, los niños compartirán sus pensamientos más íntimos con mayor seguridad”, señaló.

Prohibido no vender

A pesar de los problemas existentes, Pirg no llama a prohibir los juguetes con IA. Pueden ser útiles, por ejemplo, para ayudar a aprender un segundo idioma o las capitales.

La organización quiere implementar una regulación adicional para productos dirigidos a niños menores de 13 años.

Franz subrayó que es necesario realizar investigaciones más independientes para establecer la seguridad de los juguetes. Antes de eso, deben ser retirados de las estanterías de las tiendas.

Después de la publicación del informe de Pirg, la empresa de Sam Altman anunció la suspensión de las ventas de FoloToy. Posteriormente, se reanudaron, pero ya con un chatbot de ByteDance.

El 27 de noviembre, 80 organizaciones, incluida Fairplay, emitieron recomendaciones para las familias instando a no comprar juguetes con IA antes de las festividades.

Recordemos que en noviembre OpenAI presentó una nueva función “Exploración de Compras” en ChatGPT, que realiza un análisis en nombre del usuario para encontrar productos adecuados.