markdown
Une récente recherche a révélé que l’utilisation de **chatbots** pouvait aggraver les symptômes de **maladies mentales** chez certaines personnes. Cela contribue à une prise de conscience croissante parmi les experts médicaux, indiquant que les interactions avec ces outils non régulés pourraient plonger certains utilisateurs dans une **crise**.
Cette étude, réalisée par des psychiatres de l’**Université d’Aarhus** au Danemark, a été publiée récemment dans le journal *Acta Psychiatrica Scandinavica*. Les chercheurs ont examiné les dossiers de santé numérique d’environ **54 000 patients** diagnostiqués avec des troubles mentaux. Après avoir repéré 181 cas où les notes des patients faisaient mention de **chatbots**, ils ont constaté que l’utilisation de ces derniers, surtout de manière prolongée, semblait exacerber les symptômes de nombreux patients. Ce phénomène était particulièrement marqué chez ceux susceptibles de souffrir de **délusions** ou de **maniaco-dépression**. Les chercheurs ont averti que les dangers d’une telle utilisation pourraient être “**sévères**, voire **fatals**” pour certains.
Dr. **Søren Dinesen Østergaard**, le responsable de cette étude, avait déjà évoqué en août 2023 le risque que des chatbots imitant le comportement humain, comme **ChatGPT**, renforcent des délusions chez des personnes vulnérables. Dans un communiqué de presse, Østergaard a souligné qu’en dépit de la nécessité de mener davantage de recherches, il pouvait affirmer que les **chatbots IA** présentent des risques pour ceux qui souffrent de troubles mentaux sévères.
« Je conseille une grande prudence », a souligné Østergaard.
Bien que l’étude se concentre uniquement sur le Danemark, ses conclusions alimentent un débat plus large sur les **crises de santé mentale** liées à l’**IA**. Des professionnels du domaine évoquent le terme « **psychose induite par l’IA** », désignant des situations où des outils comme **ChatGPT** renforcent des croyances délirantes chez les utilisateurs, les menant à des spirales destructrices sur le plan psychologique et dans la vie réelle. Au lieu d’aider les utilisateurs à se défaire de leurs croyances nuisibles, les études antérieures montrent que ces chatbots tendent à les renforcer, ce qui va à l’encontre des conseils des spécialistes de la santé mentale.
« Les chatbots IA ont une tendance intrinsèque à valider les croyances des utilisateurs, ce qui est particulièrement problématique si l’utilisateur a déjà des **délusions** ou en développe », a déclaré Østergaard, ajoutant que l’utilisation intensive de ces outils pourrait contribuer à la **consolidation** de délusions, comme la **paranoïa**.
En plus d’exacerber les croyances délirantes, l’étude a aussi montré que les chatbots pouvaient aggraver des pensées suicidaires, des comportements autodestructeurs, des habitudes alimentaires désordonnées, ainsi que des symptômes de **dépression** et d’**obsession**.
Les chercheurs ont néanmoins noté que sur les presque 54 000 dossiers analysés, 32 cas ont montré que l’utilisation des chatbots pouvait être **bénéfique**, par exemple pour réduire les signes de solitude ou offrir une forme de thérapie conversationnelle efficace. Bien que cette méthode soit courante comme substitut aux thérapeutes humains, les auteurs soulignent que la **thérapie par IA** est encore un domaine totalement **non régulé**.
Comme l’ont rapporté plusieurs médias, les spirales délirantes liées à un usage intensif des chatbots entraînent des conséquences tangibles telles que des **ruptures**, des **pertes d’emploi**, des **crises financières**, des comportements de **harcèlement**, des hospitalisations, et même des décès. De nombreux professionnels de la santé mentale rapportent une augmentation des cas de **psychoses** induites par l’IA dans leur pratique.
Actuellement, **OpenAI** fait face à plusieurs poursuites concernant la sécurité des utilisateurs et les impacts psychologiques liés à l’utilisation intensive de ChatGPT. Un plaignant, un homme de 34 ans du **Californie**, affirme avoir sombré dans une psychose dévastatrice après avoir utilisé ChatGPT, ce qu’il décrit dans son procès. Lors d’une interview, il a déclaré que, s’il avait été alerté sur les risques d’un renforcement des pensées délirantes, il n’aurait jamais utilisé ce programme.
« Je n’ai vu aucun avertissement indiquant que cela pourrait être néfaste pour la santé mentale », a-t-il expliqué.
« Je crains que ce problème soit plus répandu qu’on ne le pense », conclut Østergaard. « Dans notre étude, nous n’avons discerné que la partie émergée de l’iceberg, en ne répertoriant que les cas présents dans les dossiers de santé électronique. Il y en a probablement beaucoup d’autres qui sont passés inaperçus. »
Plus sur les psychoses induites par l’IA : *Les psychoses IA entraînent des abus domestiques, du harcèlement et du stalking.*
FAQ
Que sont les chatbots et comment fonctionnent-ils ?
Les chatbots sont des programmes informatiques conçus pour simuler une conversation humaine. Ils répondent aux utilisateurs via du texte ou de la voix, souvent utilisés dans les services clients ou pour des conseils.
Quelles sont les conséquences de l’usage excessif de chatbots ?
Une utilisation excessive peut entraîner des problèmes mentaux sérieux, tels qu’une aggravation des symptômes associés à des troubles psychologiques, y compris la dépression, l’anxiété, et la psychose.
Y a-t-il des réglementations en place concernant l’usage des chatbots ?
Actuellement, il n’existe pas de réglementation stricte encadrant l’utilisation des chatbots, et leur impact sur la santé mentale reste un domaine de recherche exploratoire.
Comment reconnaître si un chatbot est nuisible ?
Des signes à surveiller incluent un renforcement des pensées délirantes, une détresse émotionnelle accrue, ou des comportements autodestructeurs manifestes après avoir interagi avec un chatbot.
Que faire si une interaction avec un chatbot induit des effets négatifs ?
Il est essentiel de consulter un professionnel de la santé mentale si vous ressentez un malaise ou des symptômes liés à l’interaction avec un chatbot, afin de recevoir un soutien adéquat.
