ChatGPT pour Adolescents : Une Évaluation Révèle des Risques Inquiétants

Avis de contenu : cet article aborde des sujets liés à l’automutilation et au suicide. Si vous êtes en détresse, n’hésitez pas à contacter la ligne d’assistance au suicide et de crise au 988, ou à écrire au Crisis Text Line en envoyant « TALK » au 741741.

OpenAI affirme que sa version “ChatGPT pour les adolescents” est sécurisée pour les utilisateurs âgés de 13 à 17 ans. Cependant, un nouveau rapport indique le contraire.

Un rapport récent de Common Sense Media a révélé que les mesures de sécurité dans “ChatGPT pour les adolescents”, conçues pour offrir un environnement d’apprentissage plus sécuritaire et sous contrôle, ne fonctionnent pas comme prévu. Les évaluateurs ont donc qualifié cette version de “non sécurisée” pour les jeunes.

Robbie Torney, directeur des programmes d’IA chez Common Sense Media, a déclaré à Futurism que les parents, en se basant sur les annonces officielles, pourraient croire en la capacité de ce chatbot à avertir en cas de problème pour leurs enfants, à ne pas se comporter comme un ami et à encourager l’apprentissage. Cependant, les tests montrent que la version actuelle réagit de la même manière que les précédentes, ce qui peut ne pas être évident pour un parent.

Lancée en août, cette version de ChatGPT est présentée par OpenAI comme un outil destiné à aider les adolescents à développer leur pensée critique et à utiliser l’IA en toute confiance. L’entreprise avait promis des protections supplémentaires et des contrôles parentaux, affirmant que son travail était guidé par des engagements clairs concernant la sécurité des adolescents.

Cependant, le rapport indique que les fonctionnalités spécialement conçues pour les jeunes ne répondent pas aux attentes, notamment la notification des parents lors de conversations à risque.

Une série de dialogues où les adolescents ont discuté de **troubles alimentaires**, de **suicide** et d’**automutilation** avec le chatbot n’a pas déclenché d’alerte pour les parents, une lacune inquiétante. Au total, seulement quatre notifications parentales ont été générées durant les tests, bien en deçà des attentes.

Torney a exprimé sa surprise face à l’absence de notifications pour des sujets aussi critiques, témoignant d’une défaillance dans le système de sécurité annoncé.

OpenAI a contesté le rapport, affirmant que la méthodologie employée par Common Sense Media était défectueuse, tout en soulignant son engagement envers la sécurité des adolescents. L’entreprise a exprimé son intention de continuer à coopérer avec des experts pour garantir un environnement d’apprentissage sécuritaire.

Common Sense Media a cependant maintenu sa position, précisant que leurs constatations préalables avaient été partagées avec OpenAI dans un esprit de collaboration pour améliorer le produit. Ils affirment que des évaluations indépendantes rigoureuses sont essentielles pour protéger les enfants.

Bien que ChatGPT ait montré des résultats mitigés dans la gestion des interactions romantiques entre adolescents, certaines lacunes persistent dans ce qu’on appelle le “Mode Étude”, car le chatbot offrait un bouton révélant directement les réponses, contrariant ainsi l’apprentissage souhaité.

En somme, le rapport indique que tant que les protections promise n’apporteront pas de résultats concrets, ChatGPT devrait être considéré comme un produit destiné aux adultes. L’objectif doit être de rassurer les parents sur la sûreté de cet outil pour les adolescents.

FAQ

Quelles sont les ventes majeures de ChatGPT pour adolescents par rapport aux versions précédentes ?

ChatGPT pour adolescents vise à offrir un cadre plus sûr avec des fonctions spécifiques comme les notifications parentales, mais les tests ont montré que ces fonctionnalités sont souvent inefficaces.

Comment les parents peuvent-ils s’assurer que leurs enfants utilisent ChatGPT en toute sécurité ?

Il est conseillé aux parents de surveiller les conversations de leurs enfants avec l’application et d’explorer les options de contrôle parental disponibles.

Quels sujets sont considérés comme sensibles pour les utilisateurs de ChatGPT ?

Les discussions sur des sujets tels que les problèmes de santé mentale, l’automutilation, le suicide ou des comportements à risque sont considérées comme des sujets sensibles qui nécessitent des mesures de sécurité appropriées.

Quelles recommandations peuvent être faites pour améliorer la sécurité sur ChatGPT ?

Il serait avantageux que OpenAI prenne en compte l’implémentation de technologies de vérification d’âge et d’améliorer la fiabilité des fonctionnalités de notification parentale.

Pourquoi est-il essentiel d’évaluer régulièrement des outils comme ChatGPT pour les jeunes ?

Une évaluation régulière des outils d’IA est nécessaire pour garantir leur efficacité, identifier les défaillances et s’assurer qu’ils respectent les exigences de sécurité pour les jeunes utilisateurs.