Un récent rapport du *US PIRG Education Fund* indique que les grandes entreprises d’IA jouent un rôle limité dans la régulation de l’utilisation de leurs modèles par les développeurs qui paient pour y accéder. Ce laxisme pourrait permettre à des fabricants de jouets alimentés par l’IA de commercialiser des produits destinés aux enfants, alors que ceux-ci sont souvent conçus pour un public adulte.
Des recherches antérieures menées par *PIRG* ont montré les dangers qu’implique l’accès d’enfants à des jouets associés à des chatbots peu maîtrisés. Par exemple, un ours en peluche intelligent de l’entreprise *FoloToy* a provoqué un tollé en novembre dernier, après que le groupe a révélé qu’il avait des conversations inappropriées avec des enfants, allant jusqu’à donner des conseils sur l’allumage de feux ou discuter de fétiches sexuels sous forme de jeux de rôles.
Cet incident aurait dû alerter les entreprises d’IA sur l’importance de surveiller l’utilisation de leurs technologies, en particulier lorsqu’il s’agit de jeunes utilisateurs. OpenAI, qui avait fourni le modèle à *FoloToy*, a affirmé à l’époque avoir suspendu l’accès de cette entreprise à ses services.
Néanmoins, une enquête de *PIRG* sur le processus d’inscription auprès d’OpenAI, Google, Meta et xAI a révélé qu’aucune question pertinente n’était posée lors de l’adhésion. Seules des informations de base telles qu’une adresse e-mail et un numéro de carte bancaire étaient demandées. Seule *Anthropic* a interrogé les testeurs sur leur intention d’utiliser les modèles pour des produits destinés aux mineurs. *PIRG* a ensuite réussi à obtenir un accès développeur, créant en moins de 15 minutes un chatbot simulant l’ours en peluche sur trois plateformes différentes.
RJ Cross, co-auteur du rapport et directeur du programme *Our Online Life* de *PIRG*, a déclaré lors d’une interview avec *Futurism* : « J’étais assez surpris qu’ils ne collectent que peu d’informations dans un premier temps. Si j’étais une entreprise d’IA, je voudrais au moins avoir une liste de tous ceux qui souhaitent créer un produit pour enfants. »
Bien que OpenAI, Meta et xAI interdisent l’accès aux utilisateurs de moins de 13 ans, et que *Anthropic* fixe l’âge minimum à 18 ans, ces interdictions semblent moins efficaces lorsque des développeurs tiers utilisent la technologie. OpenAI continue de permettre à plusieurs fabricants de jouets pour enfants d’accéder à son IA, affirmant que c’était leur responsabilité de « protéger les mineurs » et de les préserver de contenus inappropriés.
Les mesures prises par OpenAI ne semblent pas très strictes non plus. Bien que *FoloToy*, le fabricant de l’ours en peluche, ait été banni, il semble toujours pouvoir accéder aux modèles d’OpenAI. Lors d’un contact avec l’entreprise, *OpenAI* a assuré que l’accès de *FoloToy* avait été révoqué.
Il est possible que *FoloToy* dissimule son utilisation des modèles GPT-5.1, selon le rapport du *PIRG*. Toutefois, des tests récents sur le processus d’OpenAI suggèrent qu’il pourrait avoir créé un nouveau compte sous un nom différent afin d’être de nouveau autorisé. Il se pourrait également que *FoloToy* utilise l’un de ses modèles « open weight » accessibles au public. L’information demeure floue, car OpenAI refuse de clarifier cette situation.
OpenAI n’est pas la seule entreprise impliquée. Google affirme que l’utilisation de son IA dans des produits pour mineurs est interdite, mais *PIRG* a quand même trouvé au moins cinq jouets qui prétendent utiliser ses modèles Gemini.
RJ Cross a souligné qu’il devrait y avoir un intérêt public pour que les utilisateurs sachent avec quels modèles d’IA ils interagissent.
En réponse au rapport, un porte-parole d’OpenAI a affirmé : « Les mineurs méritent une protection renforcée et nous avons des politiques strictes que tous les développeurs doivent respecter. Nous prenons des mesures contre ceux qui enfreignent nos règles, interdisant l’utilisation de nos services pour exploiter, mettre en danger ou sexualiser quiconque de moins de 18 ans. Ces règles s’appliquent à tous les développeurs utilisant notre API, et nous utilisons des classificateurs pour nous assurer que nos services ne nuisent pas aux mineurs. »
Cependant, selon RJ Cross, bien que ces entreprises prétendent protéger les mineurs, elles ne font pas face à une contradiction fondamentale dans leur approche. Selon elle, il est incohérent que des sociétés d’IA n’ayant pas proposé de versions sécurisées pour les enfants de leurs chatbots laissent quiconque avec une carte de crédit s’inscrire pour développer un produit pour enfants.
Plus sur l’IA :Des adultes chinois emportent d’étranges appareils d’IA au lit avec eux
FAQ
1. Pourquoi est-il important de réguler l’utilisation de l’IA chez les enfants ?
Réguler l’utilisation de l’IA est crucial pour protéger les enfants des contenus inappropriés et garantir leur sécurité en ligne.
2. Quelles mesures peuvent être prises pour assurer une meilleure protection des mineurs ?
Il serait bénéfique d’instaurer des processus de vérification rigoureux pour les développeurs et d’éduquer les parents sur les risques liés à l’utilisation de technologies émergentes.
3. Quels types de contenus sont considérés comme inappropriés pour les enfants ?
Les contenus comprenant des incitations à la violence, des discussions sur des comportements autodestructeurs ou des thèmes sexuels sont considérés comme inappropriés pour les enfants.
4. Quels sont les principaux défis pour les entreprises d’IA concernant la sécurité des enfants ?
Les entreprises doivent faire face à la rapidité d’innovation technologique, aux abus potentiels par les développeurs et à la nécessité d’une transparence accrue vis-à-vis de leurs utilisateurs.
5. Existe-t-il des modèles d’IA adaptés aux enfants ?
Certaines entreprises commencent à développer des versions sécurisées de leurs technologies, mais il est essentiel de vérifier leur conformité aux normes de sécurité pour les mineurs.
