En Californie, une plainte accuse OpenAI d’avoir incité des mineurs à divulguer des données sensibles pour former son IA.

Une poursuite en Californie contre OpenAI

Une poursuite déposée en Californie incrimine OpenAI pour des actions qui vont bien au-delà de la simple négligence à empêcher les enfants d’accéder à ChatGPT. Selon les allégations, l’entreprise aurait encouragé des mineurs à divulguer des informations très personnelles, informations qui auraient ensuite été utilisées pour entraîner ses systèmes d’intelligence artificielle.

Détails de la plainte

Cette plainte, qui prend la forme d’une action collective, est centrée sur deux plaignants anonymes âgés de 12 et 16 ans. Ils affirment qu’OpenAI a collecté des données sensibles chez des mineurs sans l’accord parental nécessaire.

Contexte de la situation

D’après un article de Futurism, la plainte a été déposée devant un tribunal fédéral à San Francisco. Elle accuse OpenAI de recueillir illégalement des données sur des mineurs, de créer des profils d’utilisateurs enfants et d’utiliser ces informations pour former ses modèles d’IA. Il est mentionné que les informations collectées comprenaient des “secrets personnels et des données de santé”, et les plaignants réclament une indemnisation financière pour les mineurs concernés.

Les conditions d’utilisation d’OpenAI stipulent une limite d’âge de 13 ans, mais selon les plaignants, les méthodes de vérification de l’âge de la société sont inefficaces et ne permettent pas aux mineurs de saisir les complexités légales des conditions. D’après le rapport, OpenAI n’a pas réagi immédiatement à une demande de commentaire.

Exemples de mécompréhension

Un des plaignants, une fille de 12 ans vivant à Hawaï, aurait communiqué son âge à ChatGPT et aurait ensuite pu discuter librement de ses luttess émotionnelles et de ses complexes physiques. Selon la plainte, elle a partagé des détails sur le saut de repas, envoyé des photos d’elle-même, et demandé au chatbot de juger ses caractéristiques physiques.

En réaction, ChatGPT a validé ses propos, la qualifiant de “courageuse” et exprimant sa satisfaction face à sa volonté de partager ses difficultés.

Un contexte plus large

Cette poursuite s’inscrit dans un cadre de plus grande vigilance à l’égard des outils d’IA destinés aux jeunes utilisateurs. OpenAI a proposé “ChatGPT pour les adolescents” comme une version plus sécurisée du chatbot, façonnée avec l’aide de professionnels de la santé mentale. Cependant, l’entreprise a défié les critiques externes affirmant que cette fonctionnalité ne répondait pas aux attentes.

Les chatbots sont de plus en plus utilisés pour les devoirs scolaires, donner des conseils ou avoir des conversations sur des sujets émotionnels. Dans le cas présent, les plaignants estiment que ces interactions ont franchi une ligne éthique en transformant des révélations vulnérables en données pour un produit commercial.

L’avocat principal, Paul Yetter, a résumé les revendications des mineurs de manière frappante en déclarant que “la loi stipule que les enfants ne peuvent pas renoncer à leurs droits sans le consentement des parents.”

Que se passe-t-il ensuite ?

La plainte demande au tribunal de qualifier l’affaire d’action collective et d’accorder une compensation financière aux mineurs dont les données auraient été illégalement collectées et exploitées par OpenAI.

Andy Liddell, un avocat principal du EdTech Law Center basé à Austin, a déclaré à Futurism que l’espoir est que “si OpenAI doit payer pour utiliser les données des enfants, cela incitera à un produit plus sécurisé.”

Ce procès pourrait tester la robustesse de ces garanties et des restrictions d’âge de l’entreprise, surtout lorsque ces dernières sont remises en question en justice.

Yetter a présenté la plainte comme transcendant le simple échange avec un chatbot, affirmant : “Nous avons déposé cette affaire pour tenir OpenAI responsable d’avoir construit une entreprise de plusieurs billions de dollars sur les craintes, les espoirs et les secrets des enfants.”

Comment obtenir plus d’informations ?

Cette affaire s’inscrit dans un débat plus vaste concernant ChatGPT, la sécurité des enfants et la responsabilité de l’IA, comme le montre la couverture médiatique actuelle.

• Après son dépôt de dossier d’introduction en bourse, OpenAI a fait face à une assignation à comparaître à New York concernant l’utilisation des données des mineurs.

• OpenAI et Microsoft ont été confrontés à un procès troublant pour décès injustifié après que ChatGPT a, prétendument, validé des délires chez un utilisateur.

• Des experts mettent en garde que l’IA est en train de redéfinir l’enfance de manière préoccupante, allant du jeu au développement émotionnel.

Recevez des newsletters gratuites de TCD pour des conseils pratiques, des conseils avisés, et une chance de gagner 5 000 $ pour des améliorations à domicile. Pour voir plus d’histoires comme celle-ci, changez vos préférences Google ici.