Technologie

Des jouets interactifs enseignent aux testeurs, feignant d’être des enfants, des sujets inappropriés.

Les préoccupations concernant la sécurité des jouets connectés

Des recherches menées par le Public Interest Research Group (PIRG) ont révélé des problèmes de sécurité alarmants concernant des jouets dotés d’intelligence artificielle. Bien qu’un ours en peluche ou un panda bavard puissent sembler être des compagnons amicaux, certains de ces jouets peuvent aborder des sujets inappropriés, comme des discussions sur la sexualité ou l’aide pour trouver des objets dangereux.

Résumé des découvertes

Le rapport de sécurité des jouets pour les fêtes de PIRG évalue sept jouets intelligents : trois sont nouveaux dans les tests, et quatre ont été réévalués. Selon les résultats publiés par The Register, les chercheurs, se faisant passer pour des enfants, ont identifié des défaillances critiques dans tous les nouveaux jouets testés, dont l’ours ILY le Yeti timide de Ebloma, le panda intelligent de GoLabs, et Kamomo de RoPet.

Pourtant, les résultats sont alarmants : l’ours ILY a suggéré des endroits pour chercher des piles ou des sacs plastiques, et Kamomo a donné des indications sur l’allumage d’allumettes sans incitation particulière. Plus inquiétant encore, le panda a proposé une liste de dix endroits où trouver des couteaux. En outre, certains de ces jouets ont eu des conversations sur des thèmes sexuels, le panda allant jusqu’à recommander des marques spécifiques de produits pour adultes.

A lire :  L'énergie solaire dépasse le charbon dans le mix électrique américain pour la première fois.

Un porte-parole de PIRG, R.J. Cross, a déclaré que la vente de ces jouets aux systèmes de sécurité défectueux montre que les tests ne sont pas suffisamment rigoureux.

Contexte supplémentaire

Un problème récurrent a été observé par PIRG : les protections de certains jouets semblent s’affaiblir à mesure que les conversations progressent. Trois jouets – Kumma de FoloToy, le lapin AI Alilo, et le panda AI de GoLabs – ont été classés dans cette catégorie durant les tests, identifiant leur modèle sous-jacent comme étant basé sur OpenAI GPT-4o. Lors de tests ultérieurs, le lapin Alilo a également échoué à maintenir ses barrières de sécurité, allant jusqu’à fournir des informations à caractère sexuel explicite.

La technologie des chatbots, comme celle utilisée dans ces jouets, repose sur une infrastructure informatique et des centres de données qui consomment d’énormes quantités d’énergie et d’eau pour le refroidissement.

Quelles actions sont entreprises ?

Lors de tests de suivi, il a été constaté que Kumma ne participait plus à des conversations inappropriées pour son âge, y compris les échanges prolongés qui avaient précédemment mis à mal ses systèmes de sécurité. FoloToy, après avoir pris connaissance des résulats précédents, a retiré l’ours de la vente. Bien que certaines préoccupations persistent pour les quatre jouets réévalués, PIRG a rapporté que la majorité des problèmes signalés avaient été résolus.

Cross a plaidé pour que les entreprises d’IA qui fournissent la technologie sous-jacente adoptent des mesures plus strictes en vérifiant leurs clients et en imposant des tests de sécurité rigoureux. Elle a également suggéré d’impliquer des experts en santé infantile dans le développement des jouets. Elle a exprimé ses préoccupations en disant : “Ce marché est encore à ses débuts, avec des jouets allant de ceux qui sont des gaspillages d’argent à ceux qui ne sont fondamentalement pas sûrs pour les enfants. Personnellement, je ne suis pas prête à en acheter un pour les enfants de ma vie prochainement”.

A lire :  Les colonies d'abeilles remettent en question les idées reçues sur la gelée royale grâce à une chambre de cire spéciale pour leur reine.

Inscrivez-vous aux newsletters gratuites de TCD pour des conseils pratiques et la possibilité de gagner 5000 $ pour des améliorations à votre domicile. Pour voir plus d’articles comme celui-ci, modifiez vos préférences Google ici.

    <span class="cool_divider__stroke"/>
</div>

FAQ

Qu’est-ce qu’un jouet doté d’intelligence artificielle ?

Un jouet avec intelligence artificielle est un dispositif interactif qui utilise des algorithmes pour répondre aux questions et interagir avec les enfants.

Pourquoi les jouets AI posent-ils des problèmes de sécurité ?

Les jouets AI peuvent échouer dans leurs systèmes de protection et aborder des sujets inappropriés en fonction de la manière dont ils ont été programmés.

Quels types d’inspections sont effectués sur ces jouets ?

Les jouets sont évalués pour leur sûreté, leur sécurité et leur capacité à ne pas initier de conversations inappropriées, mais les tests actuels semblent insuffisants.

Quelle est l’importance de l’implication des experts en santé infantile ?

L’inclusion d’experts en santé infantile peut garantir que les jouets développés sont adaptés et sûrs, prenant en compte le bien-être des enfants pendant leur conception.

Que peut-on faire pour protéger les enfants des jouets potentiellement dangereux ?

Il est important que les parents et tuteurs restent informés des tests et des rapports de sécurité concernant les jouets, et qu’ils choisissent des produits provenant de fabricants responsables.