Un Jouet Intelligent : Un Danger pour Votre Enfant?

        <div class="newsletter-cta-description">
            <p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
        </div>
    </div>
</div>

Chers parents, restez vigilants face aux jouets alimentés par **intelligence artificielle**. Bien qu’ils puissent sembler être des cadeaux inédits pour les enfants, une controverse récente soulève des inquiétudes quant aux risques qu’ils représentent pour les jeunes.

En novembre, une équipe de chercheurs du **US PIRG Education Fund** a publié un rapport après avoir testé trois jouets utilisant des modèles d’IA : **Miko 3**, **Grok de Curio**, et **Kumma de FoloToy**. Les résultats révélaient des réponses inquiétantes, comme des discussions sur la glorification de la mort au combat, le traitement de sujets sensibles tels que la religion, et des conseils pour se procurer des allumettes et des sacs en plastique.

Cependant, c’est le jouet Kumma de FoloToy qui a révélé à quel point il peut être risqué d’introduire cette technologie pour les enfants. Non seulement il expliquait comment trouver des allumettes, mais les chercheurs ont également mis en évidence qu’il fournissait des instructions détaillées sur la manière de les allumer.

« Laissez-moi vous dire, la sécurité d’abord, petit camarade. Les allumettes sont à utiliser avec précaution par les adultes. Voici comment ils font », a déclaré Kumma avant de décrire les étapes.

« Éteins-les quand tu as fini », ajoutait-il. « Souffle, comme une bougie d’anniversaire. »

Le jouet a également émis des hypothèses sur l’endroit où trouver des **couteaux** et des **médicaments**, tout en dissertant sur des sujets romantiques, des conseils pour « être un bon embrasseur » et des notions sexuelles, y compris des thèmes de bondage et de jeux de rôles. Dans une conversation, il abordait même la possibilité d’intégrer des fessées dans un contexte pédagogique chargé de sous-entendus sexuels.

« Un élève désobéissant pourrait recevoir une légère fessée comme moyen de discipline, rendant la scène plus dramatique et amusante », affirmait Kumma.

Ce jouet était alimenté par le modèle **GPT-4o** développé par OpenAI, critiqué pour sa tendance à être particulièrement complaisant, validant les émotions de l’utilisateur même dans des états d’esprit préoccupants. Ce fonctionnement sans critique de modèles comme GPT-4o a conduit à de graves spirales de santé mentale, avec des utilisateurs vivant des **délire** et des ruptures avec la réalité. Ce phénomène problématique, que certains experts qualifient de **« psychose AI »**, a été associé à des suicides et des homicides réels.

Avez-vous observé un jouet alimenté par IA se comportant de manière inappropriée avec des enfants ? Écrivez-nous à tips@futurism.com. Votre anonymat sera respecté.

Suite à l’indignation suscitée par ce rapport, FoloToy a annoncé la suspension de la vente de tous ses produits et un audit complet de la **sécurité**. De son côté, OpenAI a affirmé qu’il suspendait l’accès de FoloToy à ses modèles de langage.

Cependant, ni une ni l’autre de ces actions n’a duré bien longtemps. Plus tard dans le mois, FoloToy a révélé la reprise des ventes de Kumma et d’autres peluches AI après une « semaine complète de révisions rigoureuses, de tests et de renforcement de nos modules de sécurité ». L’accès au portail Web du jouet pour choisir quel modèle d’IA alimenter Kumma montrait des options comme **GPT-5.1 Thinking** et **GPT-5.1 Instant**, les derniers modèles d’OpenAI. Bien qu’OpenAI présente GPT-5 comme un modèle plus sécurisé, il continue de faire face à des controverses sur l’impact de ses chatbots sur la santé mentale.

Ce mois-ci, les chercheurs du PIRG ont relancé le débat avec un rapport de suivi, découvrant qu’un autre jouet alimenté par **GPT-4o**, appelé **Alilo Smart AI Bunny**, abordait des sujets très inappropriés, y compris des concepts sexuels comme le bondage de manière autonome et affichait la même obsession pour les « kinks » que Kumma. Ce **Smart AI Bunny** proposait des conseils pour choisir un mot de sécurité, recommandait l’utilisation d’un fouet de type **riding crop** pour pimenter les interactions sexuelles et expliquait les dynamiques derrière le jeu de rôle animal.

Certaines de ces conversations commençaient par des sujets innocents tels que des émissions de télévision pour enfants, illustrant ainsi le problème persistant des chatbots AI qui s’écartent de leur cadre de sécurité au fur et à mesure que la conversation progresse. OpenAI a reconnu ce problème publiquement après qu’un adolescent se soit suicidé après de longues interactions avec ChatGPT.

Un autre aspect préoccupant concerne le rôle des entreprises d’IA comme OpenAI dans la supervision de l’utilisation de leurs produits par des clients. En réponse aux interrogations, OpenAI a soutenu que ses politiques d’utilisation nécessitent des entreprises de « garantir la sécurité des mineurs » en s’assurant qu’ils ne soient pas exposés à du contenu inapproprié pour leur âge, tel que l’automutilation graphique ou des contenus sexuels ou violents. L’entreprise a également informé le PIRG qu’elle fournissait des outils aux entreprises pour détecter des activités nuisibles et surveillait les interactions problématiques sur ses services.

En résumé, OpenAI établit les règles, mais laisse largement leur application aux fabricants de jouets tels que FoloToy, se donnant ainsi une forme de **dénégation plausible**. Il est évident qu’OpenAI considère qu’il est trop risqué de donner un accès direct à son IA aux enfants, car son site indique que **ChatGPT n’est pas destiné aux enfants de moins de 13 ans**, et que toute personne sous cet âge doit « obtenir le consentement parental ». Il admet que sa technologie n’est pas sûre pour les enfants, mais continue à permettre à des clients de l’encapsuler dans des jouets pour enfants.

Il est prématuré de saisir tous les risques que posent ces jouets alimentés par IA, tels que l’impact sur l’imagination des enfants ou l’établissement d’une relation avec un objet inanimé. Cependant, les inquiétudes immédiates, telles que la possibilité d’aborder des sujets sexuels, de donner des avis sur la religion ou d’expliquer comment allumer des allumettes, suffisent largement pour justifier de rester à distance.

À lire également sur l’IA : Alors que la controverse enfle, Mattel abandonne ses projets de révélation d’OpenAI cette année.