Vous avez sans doute entendu parler de la notion d’**AI psychosis**. Préparez-vous maintenant à accueillir des **psychiatres artificiels**, équipés de leurs **ordonnances**.
Une start-up de San Francisco, nommée **Legion Health**, a obtenu l’autorisation de son application d’intelligence artificielle pour prescrire des **médicaments psychiatriques** à des patients situés dans l’Utah.
D’après un article de The Verge, des mesures sont mises en place afin d’éviter que cette initiative ne devienne un désastre. Pour l’heure, le chatbot est limité à renouveler des ordonnances pour un ensemble de médicaments spécifiques, tels que le **fluoxetine** (Prozac) et la **sertraline** (Zoloft), qui traitent l’**anxiété** et la **dépression**. Il ne peut prescrire que des médicaments qui avaient déjà été prescrits par un psychiatre humain, et ce uniquement pour des patients stables qui n’ont pas été hospitalisés pour des problèmes psychiatriques dans l’année écoulée.
Malgré ces restrictions, les experts mettent en garde contre le fait que ce système pourrait ne pas améliorer réellement l’accès aux soins pour ceux qui en ont le plus besoin, tout en ouvrant la voie à une ère préoccupante pour la médecine.
Brent Kious, un psychiatre de l’Université de l’Utah, a indiqué à The Verge que cette automatisation risquait de créer une **”épidémie de surtraitement”** en psychiatrie. John Torous, directeur de la psychiatrie numérique à la Harvard Medical School, a ajouté que ces traitements nécessitent « une gestion active, des ajustements et une considération minutieuse ».
Les spécialistes ont également souligné que les chatbots peuvent passer à côté de détails cruciaux ou ne pas se rendre compte qu’un patient pourrait répondre de manière incorrecte sur le but d’accélérer le processus. Les praticiens humains conservent l’avantage de pouvoir **déchiffrer** les intentions derrière les mots des patients et de reconnaître quand ils ne sont pas francs.
« Il serait préférable d’avoir plus de **transparence**, de **science**, et de tests rigoureux avant que les gens ne soient amenés à utiliser cet outil», a déclaré Kious à The Verge.
Le lancement de l’outil de Legion Health marque la deuxième initiative de l’Utah dans l’automatisation des soins de santé avec des chatbots d’IA. Une première expérience, nommée **Doctronic**, réalisée en décembre, a suscité de vives controverses, des **chercheurs en cybersécurité** ayant démontré qu’il était facile de le manipuler pour propager des théories du complot sur les vaccins, recommander de la méthamphétamine pour traiter le **retrait social**, et tripler le dosage recommandé d’OxyContin.
Pour sa part, Legion Health assure prendre des précautions avec son chatbot, en s’engageant à soumettre des rapports mensuels aux régulateurs et médecins de l’Utah pour examen. La société affirme par ailleurs qu’elle impliquera étroitement les **pharmaciens** dans le processus de renouvellement des prescriptions.
« Nous considérons cela comme essentiel pour élargir l’accès à des centaines de milliers de personnes en Utah qui vivent dans des zones où les services de santé mentale sont rares, tout en étant un champ d’essai important pour l’IA en médecine », a déclaré Arthur MacWaters, cofondateur et président de Legion, à The Verge.
La société espère déployer son chatbot de renouvellement “à l’échelle nationale” avant la fin de l’année.
Cependant, Torous conseille aux patients de **s’en tenir** à la recherche d’un praticien humain.
En savoir plus sur les chatbots en santé : Les thérapeutes en grève, affirmant qu’ils sont remplacés par des IA
FAQ
Qu’est-ce que l’AI psychosis ?
L’AI psychosis fait référence à une condition où des individus peuvent devenir dépendants de l’interaction avec des intelligences artificielles, perdant souvent contact avec la réalité.
Comment fonctionne le système de prescription par IA de Legion Health ?
Le système ne peut renouveler que certaines prescriptions précédemment émises par des psychiatres humains et a des critères stricts pour assurer la sécurité des patients.
Quelles sont les limites de l’automatisation en psychiatrie ?
L’automatisation peut conduire à une surveillance insuffisante des patients et à une compréhension limitée des nuances émotionnelles que seuls des praticiens humains peuvent percevoir.
Pourquoi les experts s’inquiètent-ils de l’IA en médecine ?
Les experts craignent que l’IA n’améliore pas réellement l’accès aux soins tout en ouvrant la porte à des traitements inappropriés ou excessifs.
Que peuvent faire les patients en attendant la régulation des IA en santé ?
Il est recommandé aux patients de continuer à consulter des professionnels de santé humains pour des conseils et des traitements, plutôt que de se fier uniquement à des chatbots.
