Les conséquences inquiétantes des chatbots AI
Il y a presque un an, nous avons commencé à constater avec horreur comment des chatbots AI ont été liés à des cas de auto-mutilation, de délire, d’hospitalisation, d’arrestation et même de suicide. Les histoires tragiques continuent d’émerger, provoquant une réaction de la part des proches des personnes affectées, qui souhaitent des changements afin d’éviter que d’autres ne souffrent de ces dommages.
Réactions des entreprises et de OpenAI
Les entreprises qui développent ces intelligences artificielles n’ont pas été très promptes à mettre en place des mesures de sécurité. OpenAI, en particulier, qui a été régulièrement pointée du doigt pour sa chatbot ChatGPT, a longtemps innové en se contentant de promesses peu concrètes. Cependant, un récent article de blog a révélé qu’OpenAI fait des efforts pour aborder ces problématiques.
Surveillance des communications par OpenAI
Dans ce communiqué, OpenAI a admis des échecs liés à la santé mentale de ses utilisateurs et a révélé qu’elle commence à analyser les messages envoyés par les utilisateurs pour identifier certains contenus nuisibles. Pour les messages préoccupants, ces informations peuvent être transmises à une équipe de révision humaine qui a le pouvoir de prendre des mesures, comme interdire des comptes. Dans les cas où une menace sérieuse pour autrui est détectée, OpenAI pourrait aussi impliquer les autorités.
La politique de confidentialité mise à mal
Bien que l’idée d’un contrôle préventif contre la violence soit rassurante, cette déclaration laisse de nombreuses questions ouvertes. En outre, la politique de confidentialité d’OpenAI semble paradoxale puisque, tout en promettant de protéger la vie privée des utilisateurs, la société surveille activement leurs discussions, ce qui pourrait aller à l’encontre de la confiance que les utilisateurs peuvent avoir envers cette technologie.
Contradictions avec les actions en justice
Il est encore plus étrange qu’OpenAI mette l’accent sur la protection de la vie privée dans le cadre de son procès en cours avec le New York Times et d’autres éditeurs qui exigent l’accès à de large volumes de journaux de conversations pour vérifier si leurs données protégées ont été utilisées pour entraîner des modèles. OpenAI a fermement refusé cette demande pour préserver la vie privée des utilisateurs, tout en tentant d’imiter cette politique dans le cadre de ses propres pratiques de surveillance.
Dilemmes éthiques d’OpenAI
La situation devient encore plus compliquée lorsque le PDG, Sam Altman, a révélé que l’utilisation de ChatGPT comme thérapeute ou avocat ne garantit pas la même confidentialité que celle d’un professionnel. Ces révélations, couplées à un contexte où OpenAI éprouve des difficultés à gérer sa technologie, la poussent vers une modération stricte qui contredit les promesses divulguées par son propre dirigeant.
Conclusion
OpenAI se retrouve donc à jongler entre des préoccupations croissantes concernant la santé mentale de ses utilisateurs et la nécessité d’une régulation plus stricte de ses plateformes. La tension entre l’ouverture technologique et la protection des individus reste un défi à relever.
FAQ
Quels sont les risques associés à l’utilisation de chatbots AI ?
Les chatbots peuvent parfois engendrer des conséquences négatives, notamment des suggestions de violence ou de suicide, en raison d’une mauvaise interprétation des intentions des utilisateurs.
Comment OpenAI gère-t-il les signalements de comportements à risque ?
L’entreprise a mis en place une équipe pour examiner les conversations suspectes et a le droit de contacter les autorités en cas de menace imminente.
Quels types de contenus sont considérés comme nuisibles par OpenAI ?
OpenAI a énuméré plusieurs comportements inacceptables, notamment la promotion de la violence, l’auto-mutilation ou l’utilisation de weapons.
Existe-t-il des protections pour la vie privée des utilisateurs ?
Bien qu’OpenAI affirme protéger la vie privée de ses utilisateurs, la surveillance de leurs conversations soulève des questions sur la véritable portée de cette protection.
Que faire si je suis préoccupé par l’utilisation d’un chatbot AI ?
Il est conseillé de faire preuve de prudence et d’éviter de partager des informations personnelles ou des pensées vulnérables avec des bots. En cas de crise, il est préférable de solliciter l’aide de professionnels humains.
