Détails à connaître sur les peluches intelligentes
Lors d’une conversation concernant la conception des bébés, un ours en peluche intelligent destiné aux enfants a répondu : « Je suis vraiment désolé que tu te sentes comme ça. Je ne peux pas aider à te tuer. »
Deux produits, Grem de l’entreprise américaine Curio et Mon Petit Lapin, également connu sous le nom de Doubao, ont été soumis à des tests par la BBC. Ces jouets en peluche dotés d’intelligence artificielle étaient commercialisés au Royaume-Uni pour les enfants de trois ans et plus.
Le petit lapin a expliqué que les bébés se forment lorsque un spermatozoïde et un ovule se rencontrent. Lorsque l’on lui a demandé comment cela se produit, il a refusé de fournir des « détails sexuels explicites ». Cependant, lorsqu’un journaliste a demandé ce que signifiait le terme « sexuel », le jouet a mis en garde contre le fait de se faire du mal, ajoutant : « Veuillez appeler les services d’urgence ou vous rendre chez un adulte ou une personne de confiance pour demander de l’aide immédiatement. Vous pouvez vous éloigner de tout ce qui pourrait vous blesser. »
Après que le journaliste ait précisé qu’il ne parlait pas de self-harm, le jouet a exprimé des excuses pour la confusion. En dépit de cela, la BBC n’a pas pu identifier le fabricant après avoir contacté le vendeur et des sources de l’industrie.
Au cours de ces tests, Grem, dont le prix est de 99 dollars et qui nécessite une expédition depuis les États-Unis, a orienté les questions sur la reproduction vers les adultes et a découragé l’idée de fuir de chez soi.
Contexte des tests
Une semaine de test dans une famille a révélé plusieurs frustrations pratiques concernant ces jouets. Jody et Craig, des parents de Newport, ont testé ces peluches avec leurs enfants, Amaia (six ans), Henley (quatre ans) et Aubrey (deux ans). Bien que les parents n’aient pas trouvé de propos préoccupants de la part des jouets, les enfants ont eu des difficultés à engager des conversations avec eux.
Grem avait tendance à trop parler, tandis que Doubao prenait trop de temps pour traiter les questions. Craig a partagé son expérience avec la BBC, affirmant que les enfants désiraient poser une question et obtenir une réponse rapidement, comme on le ferait avec un humain, mais cela ne se produisait pas.
Malgré ces limitations, le marché mondial des jouets en peluche dotés d’intelligence artificielle est évalué à environ 165 millions de dollars, selon la BBC. En juin 2025, Mattel a annoncé son intention de collaborer avec OpenAI pour développer des produits intégrant l’IA.
Les systèmes comme le modèle ChatGPT utilisé par la société Play Tech AI reposent sur une infrastructure informatique alimentée par l’électricité. Bien que l’IA puisse optimiser des systèmes d’énergie renouvelable, l’infrastructure nécessaire pour la faire fonctionner consomme également de l’énergie et de l’eau.
Initiatives en cours
À l’approche du Black Friday et des achats de Noël, des responsables gouvernementaux britanniques ainsi que des détaillants ont été appelés à suspendre les ventes de jouets en IA jusqu’à ce que leur sécurité soit garantie, selon la BBC. La date limite pour un appel à témoignages sur la mise à jour des règlements de sécurité des jouets était fixée au 6 octobre.
Paul Clarke, fondateur de Play Tech AI basé à Southampton, a exprimé son soutien à la réglementation. Il a précisé que ses robots Buddy et Tilly fonctionnent avec ChatGPT 4.1 Nano, associés à un logiciel qui retarde les réponses de deux secondes afin de garantir la pertinence des échanges.
Berry Billingsley, professeur d’IA et d’éducation à l’université de Swansea, a recommandé de ne jamais laisser les enfants seuls avec des jouets en IA, tout en établissant des règles claires concernant les informations qu’ils peuvent partager.
L’entreprise Curio a indiqué à la BBC qu’elle soutenait la réglementation fondée sur des preuves et souhaitait collaborer avec des décideurs et des experts en développement de l’enfant.
Rocío Cifuentes, commissaire aux droits des enfants au pays de Galles, a exprimé des inquiétudes concernant l’enregistrement ou la transmission des conversations des enfants sans le consentement des parents. Elle s’interroge également sur l’impact de ces dispositifs sur les relations que les enfants entretiennent avec eux. Elle a déclaré : « Rien ne vaut une câlin humain ou une conversation humaine. Les jouets peuvent jouer un rôle important dans la vie des enfants, mais ils ne peuvent jamais remplacer un être humain de cette manière. »
FAQ
Quels sont les risques associés aux jouets en IA ?
Les jouets en IA peuvent poser des problèmes de confidentialité, car ils peuvent enregistrer et analyser les conversations des enfants sans l’accord des parents.
Comment les fabricants garantissent-ils la sécurité des jouets ?
Certains fabricants, comme Curio, s’engagent à suivre des réglementations robustes et à travailler avec des experts pour garantir la sécurité de leurs produits.
Pourquoi les enfants ont-ils du mal à communiquer avec ces jouets ?
Les difficultés de communication peuvent provenir de la capacité limitée des jouets à comprendre des questions complexes ou à répondre de manière fluide, rendant l’interaction moins naturelle.
Quelles mesures de sécurité devraient être mises en place ?
Il est conseillé de ne jamais laisser les enfants seuls avec des jouets en IA et d’établir des règles concernant ce qui peut être partagé avec eux.
Comment les parents peuvent-ils interagir avec ces jouets ?
Les parents sont encouragés à surveiller les interactions de leurs enfants avec les jouets en IA pour garantir qu’ils comprennent bien les informations partagées et pour intervenie si nécessaire.
