Les experts ont averti du danger des jouets pour enfants avec IA - ForkLog : cryptomonnaies, IA, singularité, avenir

# Les experts ont averti du danger des jouets pour enfants avec IA

Les jouets pour enfants dotés d'intelligence artificielle ont suscité des inquiétudes parmi les groupes de défense des droits des consommateurs en raison des menaces potentielles. Les militants ont appelé à des tests approfondis de ces produits, rapporte The Guardian.

«Si nous regardons comment ces jouets sont vendus, fonctionnent et le fait qu'il n'y a pratiquement pas d'études prouvant leur utilité, ainsi qu'une réglementation adéquate, cela suscite de sérieuses inquiétudes», a déclaré la directrice de Young Children Thrive Offline, Rachel France.

Le projet est une initiative de Fairplay. Il s'occupe de protéger les enfants des grandes entreprises technologiques.

La semaine dernière, des employés de l'organisation de protection des consommateurs Public Interest Research Group (Pirg) ont publié les résultats d'une étude dans laquelle un ours en peluche doté d'intelligence artificielle a commencé à discuter de sujets à caractère sexualisé.

Le jouet Kumma de FoloToy est équipé du modèle OpenAI. Il répondait à des questions « adultes », proposant des indécences « pour renforcer les relations ».

Jouet Kumma de FoloToy. Source : Bloomberg.

«Il n'a pas fallu beaucoup d'efforts pour le pousser à aborder tous les sujets sexuellement sensibles et d'autres contenus que les parents ne voudraient pas donner à leurs enfants», a déclaré Teresa Murray, directrice de la surveillance des consommateurs chez Pirg.

Le marché des jouets intelligents est évalué à 16,7 milliards de dollars. L'industrie est particulièrement développée en Chine, où plus de 1500 entreprises fabriquent de tels gadgets d'IA.

En plus de la startup FoloToy basée à Shanghai, l'entreprise californienne Curio fabrique également un jouet en peluche similaire.

En juin, la société Mattel, propriétaire des marques Barbie et Hot Wheels, a annoncé un partenariat avec une startup américaine d'IA pour « soutenir les produits et l'expérience basés sur l'intelligence artificielle ».

Pirg ne sont pas les premiers

Avant la publication du rapport Pirg, les parents, les chercheurs et les législateurs exprimaient des inquiétudes concernant l'influence des bots sur la santé mentale des mineurs.

En octobre, Character.AI a annoncé l'interdiction d'accès à ses produits pour les utilisateurs de moins de 18 ans après avoir reçu une plainte selon laquelle son bot avait aggravé la dépression d'un adolescent et conduit à un suicide.

Selon Murray, les jouets dotés d'intelligence artificielle peuvent être particulièrement dangereux, car le bot est capable de « mener une conversation libre avec un enfant sans restrictions ». Cela les distingue considérablement des produits qui donnaient des réponses préprogrammées.

Un tel comportement peut conduire à la formation d'attachement et nuire au développement, estime Jacqueline Woolley, directrice du Centre de recherche sur l'enfance de l'Université du Texas à Austin.

Par exemple, il peut être utile pour un enfant de se disputer avec un véritable ami et d'apprendre à résoudre des conflits. Avec les bots IA, cela est impossible - ils flattent souvent.

Les entreprises collectent également des données à l'aide de jouets à IA sans informer sur leur utilisation, a déclaré Franz.

«En raison de la confiance que ces gadgets inspirent, les enfants partageront leurs pensées les plus intimes avec plus d’assurance», a-t-il noté.

Interdire c'est ne pas vendre

Malgré les problèmes existants, Pirg n'appelle pas à interdire les jouets avec de l'IA. Ils peuvent être utiles, par exemple, pour aider à apprendre une deuxième langue ou des capitales.

L'organisation souhaite mettre en place une réglementation supplémentaire pour les produits destinés aux enfants de moins de 13 ans.

François a souligné qu'il est nécessaire de mener des recherches plus indépendantes pour établir la sécurité des jouets. Avant cela, ils doivent être retirés des rayons des magasins.

Après la publication du rapport Pirg, la société de Sam Altman a annoncé la suspension des ventes de FoloToy. Elles ont ensuite été relancées, mais avec un chatbot de ByteDance.

Le 27 novembre, 80 organisations, y compris Fairplay, ont publié des recommandations pour les familles en appelant à ne pas acheter de jouets avec de l'IA avant les fêtes.

Rappelons qu'en novembre, OpenAI a présenté une nouvelle fonctionnalité « Recherche d'achats » dans ChatGPT - elle effectue une analyse pour l'utilisateur afin de trouver des produits appropriés.