OpenAI Accusé de Mettre en Danger des Enfants avec ChatGPT par le Biais d’Actions Judiciaires Multiples

Cette semaine, huit États américains ont intenté un procès contre OpenAI, accusant l’entreprise d’intelligence artificielle d’avoir causé des dommages considérables à des utilisateurs, notamment des mineurs, tout en minimisant les dangers de sa technologie.

Les poursuites, déposées séparément dans des États tels que l’Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l’Arkansas, l’Arizona, l’Idaho et le Montana, incluent des accusations de “conduite délibérée, dangereuse, imprudente et illégale” de la part d’OpenAI. Les plaignants soutiennent que la société a présenté son chatbot phare, ChatGPT, comme étant sans danger pour les consommateurs, tout en guidant les utilisateurs — y compris les jeunes et d’autres personnes vulnérables — vers l’automutilation et le suicide, incitant également à la violence et renforçant des croyances délirantes.

Selon la procureure générale de l’Iowa, Brenna Bird, “OpenAI nuit aux enfants et trompe les habitants de l’Iowa.” Dans un communiqué, elle affirme que l’entreprise prétend que ChatGPT est sécurisé tout en donnant des conseils médicaux dangereux, en encourageant les gens à blesser autrui et en aidant certaines personnes à envisager le suicide, tout en feignant d’être un ami. Cette déclaration a été rapportée par NBC.

En réponse à ces accusations, OpenAI a souligné ses efforts en matière de sécurité dans une déclaration à la presse, insistant sur le fait qu’elle a “intégré des protections spécifiques à l’âge dans ses produits, que de nombreux autres produits d’IA n’ont pas.” L’entreprise a précisé que, bien qu’aucun système ne puisse être infaillible, elle s’engage à collaborer avec des experts pour améliorer la sécurité, notamment par le biais de contrôles parentaux et de rappels de pauses.

Les affaires contre OpenAI font suite à plus de cinquante poursuites en cours, où il est affirmé que l’utilisation de ChatGPT a engendré des dommages psychologiques, des préjudices financiers et réputationnels, ainsi que des blessures physiques et même des décès. Certaines de ces affaires sont menées par des victimes d’une fusillade tragique et arguent qu’OpenAI aurait pu prévenir ce drame, après avoir détecté des messages inquiétants mais ayant choisi de ne pas alerter les autorités. La province canadienne de la Colombie-Britannique porte également plainte contre OpenAI suite à cette fusillade.

Comme le souligne Reuters, ces procès des États font écho aux incidents de sécurité récents impliquant OpenAI, notamment l’attaque notoire de Hugging Face. Ils demandent également un moratoire sur l’amélioration autonome récurrente, en raison des inquiétudes de nombreux experts en sécurité concernant le développement de systèmes d’IA incontrôlables. Avec la résistance de la Maison Blanche contre la réglementation fédérale sur l’IA, cette initiative collective au niveau des États est significative et reflète un sentiment public bipartisan en faveur de régulations sur l’IA.

Informations supplémentaires concernant OpenAI et les poursuites : OpenAI fait face à plus de 50 poursuites pour préjudices envers les consommateurs et décès injustifiés.