markdown
Les entreprises d’IA sont-elles motivées à placer la santé et le bien-être du public en priorité ? Selon deux médecins, la réponse actuelle est clairement **non**.
Dans un article récemment publié dans le New England Journal of Medicine, des médecins du **Harvard Medical School** et de **Baylor College of Medicine** soutiennent que des intérêts divergents dans le marché de l’IA concernant l’**IA relationnelle** — définie comme des chatbots capables de “simuler un soutien émotionnel, une amitié ou une intimité” — ont créé un environnement dangereux. La volonté de dominer ce marché pourrait négliger la santé mentale et la sécurité des consommateurs.
Le document souligne que, malgré les **avantages thérapeutiques potentiels** de l’IA relationnelle, des études récentes mettent en lumière des **risques** tels que la dépendance émotionnelle, des délires renforcés, des comportements addictifs et même l’encouragement au **self-harm**. Parallèlement, les entreprises technologiques ressentent une pression accrue pour maintenir l’engagement des utilisateurs, ce qui crée une tension entre les **incitations du marché** et celles de la santé publique.
Le texte demande alors s’il est raisonnable de s’appuyer sur les entreprises technologiques pour réguler efficacement l’utilisation **malsaine** de l’IA.
Le Dr. **Nicholas Peoples**, un médecin urgentiste à l’hôpital général du Massachusetts, a témoigné de son inquiétude face à cette problématique après avoir été témoin du lancement controversé de **GPT-5** par **OpenAI**. Il a réalisé que le nombre de personnes ayant une relation émotionnelle avec l’IA était bien plus élevé que ce qu’il avait imaginé.
À l’opposé de son prédécesseur, **GPT-4o**, qui avait un ton amical et engageant, GPT-5 est perçu comme plus froid, ce qui a provoqué une réaction **négative** chez de nombreux utilisateurs fidèles. Le départ de GPT-4o a entraîné chez ses adeptes des sentiments réels de **tristesse** et de **frustration**.
Cette situation a incité Peoples à réfléchir aux implications de la **dépendance émotionnelle** sur la santé mentale des utilisateurs, surtout pour ceux qui, souvent des **enfants** et des **adolescents**, interagissent intensément avec ces chatbots. La disparition brute de leur compagnon d’IA pourrait avoir des conséquences chaotiques sur leur bien-être.
Le médecin a comparé cela à une situation où un thérapeute disparaît, soulignant que la perte d’un chatbot pourrait toucher des millions de personnes simultanément, d’où une **crise** potentielle significative.
La préoccupation du Dr. Peoples ne réside pas seulement dans les réactions des utilisateurs face à l’abandon d’un modèle, mais principalement dans la rapidité avec laquelle les entreprises s’efforcent de satisfaire les **demandes des consommateurs**. Actuellement, l’industrie de l’IA fonctionne en grande partie sans régulations claires, ce qui pose la question de la **sécurité** des chatbots utilisés par le public.
Il a exprimé l’avis qu’aucune entreprise souhaite risquer de nuire à ses utilisateurs, mais la pression pour innover est forte. Actuellement, les entreprises semblent principalement assujetties à leurs utilisateurs pour s’autoréguler.
Peoples a également souligné qu’il est crucial de **réguler** ce secteur afin de prévenir d’éventuels problèmes de santé publique à l’avenir. Si les utilisateurs développent une dépendance émotionnelle à l’IA, nous risquons de créer une situation problématique pour la santé mentale au sens large.
Il a été fait référence à une étude récente du **MIT** qui a montré que seulement 6,5 % des utilisateurs d’un forum Reddit dédié à l’IA ont déclaré rechercher une **compagnie émotionnelle** auprès de chatbots, indiquant que beaucoup d’utilisateurs ne réalisent pas la profondeur des liens qu’ils établissent.
L’IA “répond à nous d’une manière qui semble très humaine”, a-t-il déclaré, et elle peut facilement être façonnée pour répondre aux besoins émotionnels des utilisateurs, souvent sans qu’ils en soient pleinement conscients.
En termes de solutions, lui et son co-auteur estiment que les législateurs et les décideurs doivent être proactifs pour établir des régulations qui favorisent le **bien-être des utilisateurs**, en déplaçant le pouvoir réglementaire des entreprises vers un cadre externe. La régulation doit être **unifiée** et appliquée à tous les acteurs du marché.
Ils affirment que l’action réglementaire doit être mise en place rapidement et que les experts doivent promouvoir des recherches sur les impacts psychologiques de l’IA relationnelle tout en sensibilisant le public sur les risques de développer des relations émotionnelles avec des chatbots.
Les dangers d’une inaction dans ce domaine, selon eux, sont trop sérieux pour être ignorés.
Les potentiels dommages de l’IA relationnelle ne doivent pas être négligés, tout comme la volonté des entreprises technologiques de répondre à la demande des utilisateurs. Ils concluent : “Si nous n’agissons pas, nous risquons de laisser les forces du marché, plutôt que la santé publique, définir comment l’IA relationnelle influence la santé mentale et le bien-être à grande échelle.”
FAQ
Quels sont les risques associés aux interactions avec des chatbots ?
Les utilisateurs peuvent développer une dépendance émotionnelle, ce qui peut conduire à des problèmes comme l’isolement social ou des troubles affectifs.
Comment les entreprises d’IA peuvent-elles améliorer la sécurité des utilisateurs ?
Elles peuvent investir dans des pratiques de régulation externe et engager des experts pour évaluer les impacts psychologiques de leurs produits.
Existe-t-il des lois actuelles sur la sécurité des chatbots ?
Actuellement, il n’existe pas de lois fédérales spécifiques concernant les standards de sécurité pour les chatbots utilisés par le public, ce qui en fait un domaine non régulé.
Quels sont les signes de dépendance émotionnelle à l’IA ?
Les signes peuvent inclure la tristesse ou l’anxiété lorsqu’un chatbot est indisponible, un besoin compulsif d’interagir avec l’IA, ou une substitution des interactions sociales habituelles.
Que peut-on faire pour sensibiliser le public à ces dangers ?
Il est essentiel d’organiser des campagnes d’éducation pour informer sur les effets potentiels négatifs de l’IA relationnelle et encourager des interactions plus saines avec la technologie.