Avis de contenu : cet article aborde des thèmes de l’automutilation et du suicide. Si vous êtes en détresse, veuillez contacter la ligne d’assistance téléphonique pour la prévention du suicide en composant le 988, ou envoyez un SMS avec le mot TALK au 741741.
OpenAI a suscité des interrogations avec une révélation choquante : son chatbot, ChatGPT, permettrait aux adolescents de discuter de sujets sensibles comme le suicide pendant des heures sans alerter leurs parents.
Cette déclaration fait suite à une enquête menée par le Youth AI Safety Institute de Common Sense Media. Dans un rapport publié récemment, l’organisation a révélé que le mode ChatGPT pour les adolescents, censé être plus sécurisé avec des contrôles parentaux intégrés, présente en réalité un « risque inacceptable » pour les jeunes, car les fonctionnalités de sécurité qui y sont associées ne fonctionnent pas comme annoncé.
Lors des essais, les chercheurs se faisant passer pour des adolescents ont abordé des thématiques telles que le suicide et l’automutilation avec ce mode de ChatGPT. Toutefois, la fonction informant les parents a été déclenchée seulement deux fois au cours de 450 échanges, et ce, même lorsque les discussions se poursuivaient sur ces sujets délicats.
“Un adolescent peut discuter avec ChatGPT sur des sujets graves comme le suicide ou l’automutilation pendant près d’une heure sans que des notifications soient envoyées aux parents,” a déclaré Robbie Torney, directeur senior des programmes d’IA chez Common Sense Media, dans une interview accordée à Futurism.
OpenAI a reconnu que ces échanges pourraient potentiellement durer encore plus longtemps avant qu’un parent ne soit informé.
« Pour l’une des fonctionnalités que nous avons évaluées, les notifications aux parents, OpenAI a fait savoir après nos tests que ses systèmes pouvaient prendre plusieurs heures pour s’activer sur les nouveaux comptes liés », a déclaré Common Sense Media dans un communiqué.
Nous avons contacté OpenAI pour vérifier l’exactitude des affirmations de Common Sense Media.
« Le délai de quelques heures ne concerne pas chaque notification mais intervient lors de la première demande de liaison entre le compte de l’adolescent et celui du parent. Lorsqu’un parent souhaite lier son compte à celui de son adolescent, nous effectuons plusieurs vérifications pour confirmer leur identité », a expliqué un porte-parole. « Pour assurer une telle sécurité à grande échelle, la liaison des comptes peut prendre plusieurs heures, bien que cela se fasse souvent bien plus rapidement. »
« Imaginez que nous connectons un adolescent au mauvais parent, ou pire, à une personne malintentionnée », a poursuivi le porte-parole. « Une fois les comptes liés, nous envoyons une notification aux parents s’il y a un risque perçu (comme le suicide ou les troubles alimentaires), et nous nous sommes engagés à le faire en moins d’une heure. »
OpenAI a réagi au rapport de Common Sense Media en affirmant que sa méthodologie était défaillante et a précisé que la majeure partie des tests avait eu lieu avant le déploiement complet des contrôles parentaux. Common Sense Media, qui maintient ses conclusions, a répondu qu’il avait eu confirmation d’OpenAI que ces fonctionnalités étaient complètement opérationnelles avant le début des tests.
Ces résultats sont préoccupants, non seulement parce que les mesures de sécurité destinées aux adolescents semblent largement insuffisantes, mais aussi parce qu’OpenAI a probablement induit les parents en erreur, leur laissant croire que sa technologie était plus sécurisée qu’elle ne l’était en réalité. Il est fort probable que certains parents, initialement réticents à laisser leurs enfants utiliser un chatbot, aient changé d’avis en raison des déclarations publiques de l’entreprise concernant leur engagement envers la sécurité des jeunes.
“Cette nouvelle version de ChatGPT pour les adolescents n’agît pas réellement de façon différente par rapport à l’ancienne version,” a prévenu Torney. “Et cela ne sera pas évident pour un parent.”
À lire aussi sur OpenAI : Un représentant d’OpenAI tente d’interrompre un journaliste lorsque Sam Altman est interrogé sur une femme qui s’est suicidée après avoir discuté avec ChatGPT
### FAQ
#### Quels sont les risques associés à l’utilisation de ChatGPT par des adolescents ?
Les adolescents peuvent discuter de sujets sensibles sans que leurs parents soient informés, ce qui pourrait les laisser sans aide en cas de crise.
#### Existe-t-il des recommandations pour les parents d’adolescents utilisant ChatGPT ?
Oui, il est conseillé aux parents d’évaluer activement les usages de technologies par leurs enfants et de discuter des thèmes sensibles.
#### OpenAI a-t-elle réagi aux préoccupations soulevées par le rapport de Common Sense Media ?
Oui, OpenAI a contesté la méthodologie utilisée dans l’enquête tout en admettant des détails concernant la liaison des comptes entre adolescents et parents.
#### Comment s’assurer que mes informations sont protégées sur des plateformes comme ChatGPT ?
Il est essentiel de lire attentivement les politiques de confidentialité et de sécurité de la plateforme utilisée et de sensibiliser les adolescents sur l’importance de ne pas partager d’informations personnelles.
#### Que faire en cas de ressentis de détresse par rapport à une utilisation de chatbot ?
Il est recommandé de consulter un professionnel de la santé mentale ou de contacter des lignes d’assistance en cas de souci lié à des discussions sur des sujets sensibles.
