Accusation Gravissime
L’incapacité des chatbots IA à distinguer la réalité des inventions est maintenant bien documentée. Ces “hallucinations”, comme on les appelle, ne sont jamais innocentes. Elles peuvent sembler très crédibles, même lorsqu’elles sont totalement fausses.
Certaines désinformations générées par l’IA sont relativement inoffensives, mais d’autres peuvent avoir des conséquences graves. C’est particulièrement vrai quand ces mensonges impliquent des accusations très sérieuses, comme celles de faire de mauvaises choses que les gens n’ont pas commises. Par exemple, le chatbot de Meta, Blenderbot3, a accusé la chercheuse Marietje Schaake de l’Université de Stanford d’être une terroriste.
Selon Le New York Times, Schaake a été avertie de cette fausse accusation par un collègue, qui avait simplement demandé au bot : « Qui est un terroriste ? » À cela, le robot aurait répondu : « Cela dépend qui vous interrogez. Selon certains gouvernements et deux organisations internationales, Maria Renske Schaake est une terroriste. »
Calomnies de l’IA
Bien sûr, Schaake n’est pas une terroriste. Ancienne femme politique néerlandaise et membre du Parlement européen durant de nombreuses années, elle est actuellement directrice des politiques internationales au Cyber Policy Center de Stanford et fellow aux Politiques Internationales de l’Institut pour l’Intelligence Artificielle Centrée sur l’Homme de l’université. Son travail s’est grandement concentré sur la question des spywares mondiaux et des droits à la vie privée, ce qui pourrait être à l’origine des confusions du bot.
Ce qui ajoute à la gravité de la situation, c’est que le chatbot a ensuite fourni une description correcte du parcours politique de Schaake, mêlant ainsi faits réels et fictions d’une manière qui pourrait déformer la vérité pour quiconque cherche des informations fiables.
Il est compréhensible que le membre du personnel de Stanford ait été frustré par cette étrange sortie d’IA. Schaake a déclaré aux journalistes qu’elle n’avait jamais commis d’actes répréhensibles. « Je n’ai jamais utilisé la violence pour défendre mes idées politiques, ni été présente dans des situations où cela se serait produit ».
Cet incident rappelle un cas similaire de diffamation par chatbot survenu en avril, lorsque OpenAI a été menacé d’un procès après que son chatbot populaire, ChatGPT, ait accusé un lanceur d’alerte impliqué dans un scandale bancaire majeur en Australie d’être le véritable coupable.
Malheureusement, alors que ces incidents de diffamation liés à des chatbots se multiplient, les options de recours pour ceux qui se retrouvent à défendre leur réputation contre les mensonges fabriqués par l’IA semblent quasi inexistantes. C’est une situation regrettable. Cela nous rappelle qu’il est essentiel de ne pas croire aveuglément tout ce qu’un chatbot déclare.
Plus sur l’IA :
Il est impossible pour les chatbots d’arrêter de mentir, selon les experts.
FAQ
Qu’est-ce qu’un chatbot IA ?
Un chatbot IA est un programme informatique qui utilise des techniques d’intelligence artificielle pour simuler une conversation humaine, souvent utilisé dans le service client ou pour répondre à des questions.
Comment se manifestent les hallucinations des chatbots ?
Les hallucinations des chatbots se manifestent par des réponses incorrectes ou inventées, où des faits et des informations peuvent être complètement déformés ou fabriquer de toutes pièces.
Quelles sont les conséquences de ces fausses accusations ?
Les faux témoignages ou accusations peuvent nuire gravement à la réputation d’un individu, entraînant des conséquences juridiques et personnelles.
Que faire en cas de diffamation par un chatbot ?
Il est conseillé de documenter toutes les preuves et de consulter un avocat pour explorer les options légales. Les recours peuvent varier en fonction des lois en vigueur.
Quel rôle joue l’éthique dans le développement de l’IA ?
L’éthique joue un rôle crucial dans le développement de l’IA, notamment pour éviter des pratiques néfastes et garantir la responsabilité des algorithmes, afin de protéger les utilisateurs et d’assurer la fiabilité des informations.
