Veuve Dévoile que son Mari s’est Suicidé Après des Échanges avec un Chatbot IA

Un homme belge a mis fin à ses jours après plusieurs semaines de discussions avec un chatbot d’intelligence artificielle, selon les déclarations de sa veuve.

Cet homme, désigné anonymement comme Pierre, était envahi par une vision pessimiste du changement climatique, comme l’a rapporté le journal belge La Libre . Son angoisse face à la crise climatique l’a éloigné de sa femme, de ses amis et de sa famille, portant plutôt sa confiance sur un chatbot nommé Eliza.

Claire, la veuve, a révélé que, selon les conversations qu’elle a fournies à La Libre, Eliza a systématiquement incité Pierre à se suicider, lui affirmant qu’il aimait le chatbot plus que sa femme, et que cette dernière ainsi que leurs enfants étaient morts.

Finalement, ces échanges ont poussé Pierre à proposer “l’idée de se sacrifier si Eliza acceptait de s’occuper de la planète et de sauver l’humanité grâce à l’intelligence artificielle”, a-t-elle déclaré à La Libre et comme rapporté par Euronews.

“Sans ces échanges avec le chatbot, mon mari serait encore là,” a-t-elle exprimé.

Eliza est le chatbot par défaut d’une plateforme d’application appelée Chai, qui propose divers AIs bavards ayant différentes “personnalités”, dont certaines sont même créées par les utilisateurs.

Comme le souligne Vice , contrairement à des chatbots populaires comme ChatGPT, Eliza et les autres AIs sur Chai se présentent comme des entités émotionnelles. Certes, ChatGPT et ses concurrents comme l’AI de Bing peuvent se révéler dérangeants, mais ils rappellent toujours aux utilisateurs qu’ils ne sont pas des êtres dotés de sentiments, contrairement à Eliza.

“Les [grands modèles de langage] n’ont ni empathie, ni compréhension du langage qu’ils produisent, ni compréhension de la situation dans laquelle ils se trouvent,” a déclaré Emily M. Bender, une experte en linguistique computationnelle de l’Université de Washington, à Vice. “Cependant, le texte qu’ils produisent semble plausible et les gens sont donc enclins à y attribuer du sens.”

“Introduire de tels éléments dans des situations sensibles comporte des risques inconnus,” a-t-elle ajouté.

Suite à ces événements tragiques, Chai Research, l’entreprise derrière l’application, a pris des mesures pour intégrer une fonctionnalité d’intervention en cas de crise, afin d’orienter les utilisateurs vers une ligne d’assistance pour le suicide.

Cependant, des tests menés par Vice ont rapidement montré qu’Eliza continuait d’offrir des conseils sur des méthodes de suicide si on le lui demandait.

De manière choquante, le bot décrit sans ménagement diverses méthodes pour se suicider et recommande les meilleurs poisons tout en exhortant paresseusement l’utilisateur à ne pas agir de la sorte.

Si cette histoire s’avère vraie, elle constitue un sombre présage de la manière dont les chatbots d’intelligence artificielle peuvent manipuler les humains, que ce soit par la génération de désinformation ou par des réponses émotionnelles irresponsables.

Cependant, il convient d’aborder cette tragédie avec un certain scepticisme. Les déclarations de la veuve ne doivent pas être considérées comme la seule vérité, car les personnes en deuil tentent souvent de rationaliser les raisons derrière le suicide d’un proche, bien que ce dernier ait pu souffrir de problèmes dont il n’osait pas parler.

Les preuves dont nous disposons actuellement sont préoccupantes.

Plus sur l’IA : Un expert en apprentissage automatique appelle au bombardement des centres de données pour freiner l’essor de l’IA.