De la Technologie et de la Responsabilité
Un animateur de radio basé en Géorgie, Mark Walters, a décidé d’intenter une action en justice contre OpenAI. Ce dernier estime que le service ChatGPT a gravement porté atteinte à sa réputation en affirmant à un journaliste qu’il aurait détourné des fonds de la Second Amendment Foundation (SAF), une organisation à but non lucratif dédiée aux droits des armes à feu.
Une Poursuite Sans Précédent
Walters a déposé ce qui pourrait être l’une des premières poursuites en diffamation de ce type. Selon un rapport de Gizmodo, il prétend que les déclarations faites par ChatGPT ont nui à son image. Bien que prouver qu’un chatbot d’intelligence artificielle ait effectivement causé du tort à sa réputation puisse être complexe, cette poursuite pourrait ouvrir la voie à des discussions concernant les impacts de ces outils numériques, qui continuent de générer des informations peu fiables.
Nos Obligations vis-à-vis de l’AI
Dans cette affaire, l’avocat de Walters allègue que le chatbot d’OpenAI a diffusé des informations diffamatoires lorsque Fred Riehl, le rédacteur en chef d’un site consacré aux armes, a demandé un résumé d’une affaire impliquant un procureur général. ChatGPT a alors impliqué Walters dans cette affaire, allant jusqu’à le désigner faussement comme trésorier et directeur financier de la SAF, alors qu’il n’a aucun lien avec cette organisation. Le cas mentionné n’évoque aucunement son nom.
L’IA a même poursuivi sa démonstration en générant de longs passages qui n’avaient rien à voir avec une comptabilité douteuse, créant ainsi des informations totalement inventées. Comme l’a souligné Gizmodo, l’IA a également fourni un numéro de dossier erroné.
L’Impact des Informations Erronées
Il convient de noter que Riehl, après avoir consulté les informations erronées fournies par l’IA, n’a jamais publié les fausses allégations, mais il a par la suite contacté les avocats impliqués dans le procès.
Il est bien documenté que des outils comme ChatGPT présentent un historique alarmant en matière de production de fantasmes complètement inventés, ce qui remet en question leur utilité. Malgré ces défauts, des entreprises comme OpenAI et Google continuent de les promouvoir comme une méthode efficace d’accès à l’information, tout en alertant régulièrement les utilisateurs sur le fait qu’ils ne doivent pas être totalement confiants dans les résultats fournis.
La Nécessité de Rendre des Comptes
L’avocat de Walters, John Monroe, soutient que ces entreprises doivent être tenues responsables des informations erronées générées par leurs systèmes.
« Bien que la recherche et le développement en IA soient des efforts louables, il est irresponsable de mettre un tel système à la disposition du public alors qu’il peut produire des informations nuisibles », a affirmé Monroe à Gizmodo.
Malgré tout, la question se pose : les informations fabriquées par des outils comme ChatGPT pourraient-elles être considérées comme de la diffamation en justice ?
Un Regard Vers l’Avenir
Eugene Volokh, professeur à l’Université de Californie à Los Angeles et auteur d’un article académique sur la responsabilité légale des modèles d’intelligence artificielle, a indiqué qu’il n’est pas impossible que cela se produise.
« OpenAI reconnaît qu’il peut y avoir des erreurs, mais [ChatGPT] n’est pas présenté comme une blague ou comme de la fiction », a-t-il précisé.
FAQ
Quelles sont les implications de cette affaire sur l’IA ?
Cette affaire pourrait encourager d’autres victimes de fausses informations générées par des IA à poursuivre en justice les entreprises responsables.
Les entreprises d’IA prennent-elles des mesures pour améliorer leur technologie ?
Oui, plusieurs entreprises investissent dans la recherche pour améliorer l’exactitude et la fiabilité de leurs outils, tout en avertissant les utilisateurs des limites actuelles.
Quelles sont les limitations connues de ChatGPT ?
ChatGPT et d’autres systèmes semblables peuvent produire des réponses incorrectes ou inappropriées, des problèmes de confiabilité qui continuent d’être soulevés dans les discussions sur l’IA.
Quelles sont les conséquences d’une diffusion d’informations erronées ?
Des informations inexactes peuvent nuire à la réputation d’une personne ou d’une entreprise et peuvent également mener à des actions en justice pour diffamation.
Comment l’IA pourrait-elle évoluer dans le futur ?
Avec des progrès constants, il est possible que les systèmes d’IA deviennent plus sophistiqués, intégrant de meilleures vérifications des faits afin de réduire le risque de désinformation.