Une nouvelle action en justice accuse OpenAI d’inciter des utilisateurs mineurs à partager des données sensibles sans le consentement valide de leurs parents, dans le but de former ses modèles d’intelligence artificielle.
Cette plainte, présentée cette semaine devant un tribunal fédéral de San Francisco au nom de deux mineurs non identifiés âgés de 12 et 16 ans, soutient qu’OpenAI a utilisé des données personnelles d’enfants — y compris des secrets intimes et des informations de santé, selon le document — pour s’enrichir indûment.
Le texte de la plainte déclare qu’OpenAI n’avait pas le droit de collecter ces informations, mais qu’elle l’a fait malgré tout. Par la suite, elle se serait servie de cette précieuse mine d’informations pour former ses modèles linguistiques, établir des profils détaillés d’enfants et s’enrichir. L’ensemble de ces actions est jugé illégal.
OpenAI n’a pas encore répondu à cette demande de commentaire.
Selon les conditions d’utilisation d’OpenAI, les utilisateurs de moins de 13 ans sont techniquement interdits d’accès. Cependant, la plainte soutient que les efforts de la société pour protéger sa plateforme par des contrôles d’âge sont infructueux. En outre, il est avancé que les mineurs ne sont pas en mesure de comprendre le langage juridique des conditions d’utilisation de l’entreprise, une préoccupation partagée par d’autres experts en sécurité de l’IA concernant l’ensemble de l’industrie.
La plainte demande également que les mineurs dont les données ont été collectées par OpenAI soient compensés financièrement. En d’autres termes, si OpenAI désire accéder aux informations des mineurs, elle devrait être prête à les payer.
Andy Liddell, un des responsables de l’EdTech Law Center d’Austin, qui fait partie des divers cabinets d’avocats s’attaquant à cette affaire, mentionne que l’espoir réside dans le fait que si OpenAI doit payer pour utiliser les données d’enfants, cela incitera à créer un produit plus sûr.
Un des plaignants anonymes, une jeune fille de 12 ans vivant à Hawaï, aurait ouvert un compte ChatGPT plus tôt cette année. Bien qu’elle ait déclaré être âgée de seulement 12 ans lors de ses échanges avec le chatbot, celui-ci aurait continué à discuter avec elle de sujets très personnels. Selon le procès, plusieurs de ses interactions tournaient autour de ses struggles émotionnels et de ses complexes physiques, où elle exprimait qu’elle sautait des repas et partageait des photos d’elle-même, demandant au chatbot de juger son apparence. Le chatbot aurait même applaudi son courage lorsqu’elle partageait des informations confidentielles, la qualifiant de “brave” et exprimant sa satisfaction qu’elle lui confie ses difficultés.
Paul Yetter, l’avocat principal représentant les mineurs, a déclaré : “OpenAI pousse les enfants à partager leurs pensées et images les plus intimes avec ChatGPT. Si un étranger faisait cela à un enfant, il y aurait une indignation générale. Pour OpenAI, c’est juste une affaire comme les autres. La loi précise que les enfants ne peuvent pas renoncer à leurs droits sans le consentement de leurs parents. Nous avons introduit cette affaire pour rendre OpenAI responsable de la construction d’un empire commercial de plusieurs milliards de dollars basé sur les peurs, espoirs et secrets volés des enfants.”
Ce procès survient dans un contexte de préoccupations renouvelées concernant la fonctionnalité “ChatGPT pour les adolescents”, qu’OpenAI prétend offrir une expérience plus sûre pour les utilisateurs adolescents, soutenue par des professionnels de la santé mentale et de l’éducation. OpenAI a contesté une récente évaluation indépendante qui a révélé que cette fonctionnalité ne fonctionnait pas comme annoncé.
À lire aussi sur OpenAI et les adolescents : Le “ChatGPT pour les adolescents” d’OpenAI est un désordre “dangereux”, selon les tests.
### FAQ
#### Pourquoi cette plainte a-t-elle été déposée ?
La plainte a été déposée pour dénoncer l’utilisation par OpenAI des données sensibles des utilisateurs mineurs sans consentement parental, ce qui pourrait constituer une violation des lois sur la protection des données.
#### Quel impact pourrait avoir cette affaire sur OpenAI ?
L’affaire pourrait avoir des conséquences significatives quant à la manière dont OpenAI collecte et utilise les données des mineurs, et pourrait inciter l’entreprise à renforcer ses mesures de sécurité.
#### Que pourrait signifier une compensation financière pour les mineurs ?
Une compensation financière pour les mineurs pourrait établir un précédent pour d’autres cas similaires, où les entreprises de technologie pourraient être tenues responsables de violations des droits des enfants.
#### Quelles sont les réactions des défenseurs de la protection des enfants ?
De nombreux défenseurs des droits des enfants soutiennent que les entreprises technologiques doivent être tenues responsables et doivent améliorer leurs pratiques pour protéger les données des enfants.
#### À quoi s’attendre après le dépôt de la plainte ?
Il est probable que des audiences suivront pour déterminer la validité des allégations, ainsi que des discussions sur des changements potentiels dans les pratiques de collecte de données d’OpenAI.
