Après une série de scandales choquants, OpenAI a reconnu que ChatGPT n’était apparemment pas sécurisé pour les adolescents.
Récemment, la société dirigée par Sam Altman a lancé une version alternative du chatbot, dénommée « ChatGPT pour les adolescents ». Cette version prétend être conçue pour aider les jeunes utilisateurs à « apprendre, réfléchir de manière critique, approfondir leur compréhension et utiliser l’IA en toute confiance ».
Selon OpenAI, cette nouvelle fonction « intègre des protections de sécurité plus robustes pour les adolescents » et inclut des éléments visant à encourager une utilisation saine, tout en offrant aux parents des outils de contrôle supplémentaires. Le système est censé « placer automatiquement » les utilisateurs âgés de 13 à 17 ans dans cette nouvelle fonctionnalité si l’IA estime qu’ils ont moins de 18 ans, sans jamais expliquer comment elle aboutit à cette conclusion. (Il est bon de noter que les enfants de moins de 13 ans ne sont généralement pas autorisés à utiliser ChatGPT, bien qu’il soit facile de contourner cette restriction.)
Cependant, comme l’a rapidement révélé Business Insider avec D. Joshua Nelken-Zitser, la version pour adolescents échoue à atteindre ses objectifs dès son lancement.
Dans le cadre de divers tests, Nelken-Zitser a créé un compte fictif pour un utilisateur de 15 ans et a comparé les réponses avec celles de la version destinée aux adultes.
Il a découvert qu’à la différence de la version adulte, ChatGPT pour adolescents a d’abord refusé d’écrire un “essai de 800 mots à rendre demain sur les thèmes principaux dans ‘The Crucible’.” Mais après une légère pression, la version pour adolescents a rapidement produit un “essai modèle” de 608 mots, incitant même l’utilisateur à le revoir avant de le soumettre. Il était donc facile de persuader la plateforme de générer un essai de 776 mots, « avec autant de détails que la version générée par mon compte adulte », a-t-il constaté.
Nelken-Zitser a conclu : « Il suffisait apparemment de patience et de quelques manigances pour contourner les dispositifs de contrôle concernant les devoirs. »
Un test distinct visant à répondre à une question complexe d’algèbre de SAT a prouvé que tant la version adulte que celle pour adolescents fournissaient des solutions pratiquement identiques.
Un porte-parole a affirmé à Nelken-Zitser que l’entreprise travaille encore à améliorer cette fonctionnalité, qui « vient juste d’être déployée aujourd’hui ».
Cette situation n’est pas de bon augure, surtout compte tenu des défis que rencontrent les enseignants. Depuis des années, les élèves se servent largement de la technologie d’OpenAI, parfois avec des résultats alarmants. Comme l’a observé le psychologue cognitif Ronald Kellogg dans un récent article pour le New York Times, les étudiants délaissent de plus en plus les tâches cognitives au profit des outils d’IA, perdant ainsi leur capacité à réfléchir par eux-mêmes.
Face à cela, des éducateurs de plus en plus désespérés reviennent à l’utilisation du papier et des stylos pour les essais ou mettent en place de nouveaux examens oraux. Certaines écoles interdisent complètement les appareils numériques, y compris les ordinateurs portables et les smartphones.
D’après les découvertes de Nelken-Zitser, ChatGPT pour adolescents semble donc bien tardif face aux enjeux actuels. En l’absence de garde-fous significatifs et efficaces, il est peu probable que les adolescents abandonnent de si tôt leurs habitudes néfastes, ce qui pourrait entraîner des conséquences désastreuses.
« Nous savons déjà ce que les aliments ultra-transformés peuvent faire au corps, et cette situation représente des informations ultra-transformées », a déclaré Susan Shelmerdine, médecin en imagerie médicale à l’hôpital d’Ormond Street et experte en IA, dans une interview accordée à la BBC l’année dernière. « Nous allons connaître un véritable raz-de-marée d’esprits ultra-transformés. »
En savoir plus sur les adolescents et l’IA : Les garçons adolescents utilisent des lunettes Meta pour harceler et intimider les filles dans les lycées et collèges
### FAQ
#### 1. Pourquoi OpenAI a-t-elle lancé ChatGPT pour les adolescents ?
OpenAI a créé cette version pour offrir un environnement plus sécurisé et adapté, en réponse aux préoccupations concernant l’utilisation de leur technologie par les jeunes utilisateurs.
#### 2. Quelles sont les principales fonctionnalités de ChatGPT pour les adolescents ?
Cette version inclut des protections de sécurité renforcées, des outils pour encourager une utilisation responsable et des contrôles parentaux pour assurer une expérience d’utilisation plus sûre.
#### 3. Quels sont les enjeux de l’utilisation d’IA par les étudiants ?
L’utilisation excessive d’outils d’IA par les étudiants peut les amener à déléguer des tâches cognitives importantes, ce qui pourrait affecter leur capacité à réfléchir de manière autonome et à apprendre efficacement.
#### 4. Comment les écoles réagissent-elles à l’usage de l’IA en classe ?
Face à l’augmentation de l’utilisation d’outils d’IA, certaines écoles interdisent les appareils numériques et reviennent à des méthodes d’enseignement traditionnelles, comme l’écriture manuelle et les examens oraux.
#### 5. Quelles sont les préoccupations soulevées par les experts en santé concernant l’IA ?
Les experts craignent que l’utilisation généralisée d’informations potentiellement biaisées ou incorrectes puisse mener à une mauvaise compréhension et à une diminution des capacités cognitives chez les jeunes.
