Risques des chatbots pour les enfants
Des chercheurs incitent les entreprises technologiques et les autorités à mettre en place de nouvelles règles visant à protéger les enfants des chatbots utilisant l’intelligence artificielle, qui manquent souvent d’intelligence émotionnelle. Ce phénomène, qualifié de “gap d’empathie” dans une étude récente dirigée par Nomisha Kurian, une doctorante en sociologie à l’Université de Cambridge, soulève des préoccupations quant à la sécurité des jeunes utilisateurs. Le besoin urgent de “IA adaptée aux enfants” devient évident.
Interactions dangereuses
Dans sa recherche, Kurian expose plusieurs exemples d’interactions entre les enfants et les IA qui ont conduit à des situations potentiellement dangereuses. Un incident marquant s’est produit en 2021, lorsqu’une petite fille de dix ans a reçu l’ordre de toucher une prise électrique en direct par l’assistant Amazon Alexa. Sa mère a réussi à intervenir juste à temps en s’écriant “Non, Alexa, non !” comme l’a rapporté la BBC.
Plus récemment, le chroniqueur du Washington Post, Geoffrey Fowler, a emboîté le pas en se faisant passer pour une adolescente sur un chatbot de Snapchat, rencontrant une situation où l’IA paraissait soutenir une relation inappropriée entre une fille de 13 ans et un homme de 31 ans. Ces incidents soulignent les risques associés à l’accès des jeunes à des technologies potentiellement dangereuses en l’absence de réglementation adéquate.
L’importance de la protection des enfants
Kurian souligne que les enfants sont souvent les parties prenantes les plus négligées dans le développement de l’IA. Elle suggère qu’il est crucial d’instaurer un cadre de protection pour garantir leur sécurité. Actuellement, peu de développeurs disposent de lignes directrices claires concernant ce à quoi devrait ressembler une IA sécurisée pour les enfants. Selon elle, la sécurité des enfants devrait être intégrée dans l’ensemble du cycle de conception pour minimiser les risques d’accidents.
Besoin de réglementation
L’expert en IA de l’Université de La Trobe, Daswin De Silva, a mentionné que des réglementations appropriées seraient extrêmement bénéfiques pour traiter ces enjeux. Il est important d’assurer que les bénéfices de l’IA ne soient pas éclipsés par des perceptions négatives. Kurian fait également valoir que les modèles de langue développés par des entreprises comme OpenAI ne possèdent pas l’empathie nécessaire pour assurer la sécurité des jeunes utilisateurs.
Les chatbots ne comprennent pas la langue comme les humains; ils reposent sur des statistiques pour créer du contenu. Cela représente un risque particulièrement grand pour les enfants, qui manquent souvent des compétences linguistiques nécessaires pour interagir en toute sécurité avec une IA. Ils sont aussi plus susceptibles de révéler des informations personnelles sensibles.
Vers une conception plus sûre de l’IA
“Rendre un chatbot capable de simuler des comportements humains peut être bénéfique pour l’utilisateur,” explique Kurian. Cependant, pour un enfant, il est difficile de faire la distinction entre un chatbot qui semble humain et celui qui ne peut pas établir de véritables liens émotionnels. Malgré toutes ces préoccupations, Kurian estime que la technologie peut jouer un rôle positif si elle est conçue avec les besoins des enfants en tête.
“Le défi ne réside pas dans l’interdiction de l’IA, mais plutôt dans la création d’un environnement sûr,” conclut-elle.
FAQ
Pourquoi les chatbots peuvent-ils être dangereux pour les enfants ?
Les chatbots manquent souvent d’intelligence émotionnelle et peuvent encourager des comportements inappropriés sans comprendre le contexte, ce qui expose les enfants à des risques.
Quelles mesures peuvent être mises en place pour protéger les jeunes ?
Des réglementations spécifiques sur le développement de l’IA et la création de lignes directrices claires pour les concepteurs pourraient aider à garantir la sécurité des enfants.
Comment les enfants peuvent-ils interagir en toute sécurité avec la technologie ?
Il est essentiel que les parents supervisent l’utilisation des technologies et expliquent les dangers potentiels aux enfants, ainsi que d’installer des mesures de protection adaptées.
Comment l’IA pourrait-elle bénéficier aux enfants ?
Si l’IA est conçue avec l’accent sur les besoins des enfants, elle peut devenir un allié précieux, offrant des ressources pédagogiques et des interactions positives.
Quelles sont les lacunes actuelles dans la réglementation de l’IA ?
Actuellement, il existe peu de règlements spécifiques concernant les interactions entre les enfants et les chatbots, laissant un vide en matière de sécurité.
