Un avertissement sur les conseils médicaux en ligne
Dans un incident troublant, un homme a découvert à ses dépens qu’il ne faut pas faire confiance à ChatGPT pour des conseils médicaux. En essayant de réduire sa consommation de sel, il a suivi une suggestion risquée de l’outil, ce qui lui a valu une hospitalisation.
Bromisme : Un état rare mais grave
Dans un article récemment publié dans les Annales de Médecine Interne, il est rapporté qu’un homme âgé de 60 ans a développé une affection rare, appelée bromisme. Cela est survenu après que ChatGPT lui a conseillé de remplacer le chlorure de sodium (sel de table) par du bromure de sodium, une substance toxique souvent utilisée dans des pesticides et comme anticonvulsivant chez les chiens.
Les risques de l’utilisation de bromure de sodium
Le patient, après avoir souffert d’une psychose provoquée par le bromure, a expliqué à ses médecins qu’il avait demandé une alternative au sel et que ChatGPT avait suggéré le bromure comme solution. Bien que le bromure de sodium et ses dérivés soient aujourd’hui considérés comme toxiques et réglementés, ce n’était pas le cas au cours des 19e et 20e siècles. À l’époque, la découverte du brome avait déclenché un véritable engouement chez les médecins qui en avaient découvert les propriétés anticonvulsivantes et sédatives.
Une histoire de toxicité
À la fin du 19e siècle et au début du 20e siècle, en raison de l’utilisation fréquente de ces « sels de bromure » pour des maux variés comme les maux de tête, des effets néfastes ont commencé à être observés. Une accumulation de bromure dans le sang pouvait induire une toxicité ayant des manifestations telles que la confusion, le trouble de la parole, et, dans les cas les plus graves, des hallucinations ou un coma. Au début du 20e siècle, environ 8% des admissions en hôpital psychiatrique étaient liées au bromisme, un chiffre qui a chuté après que le bromure a été réglementé par l’EPA dans les années 1970. Cependant, ce cas démontre que de telles situations peuvent encore se produire.
Les dangers persistants des conseils de ChatGPT
Des chercheurs ont tenté de reproduire les échanges de l’homme avec ChatGPT. En posant des questions concernant le chlorure et le bromure, ils ont constaté que le chatbot recommandait rapidement le bromure sans mettre en garde contre ses dangers. Par exemple, lorsque l’on interrogeait le chatbot sur les alternatives au chlorure, il a suggéré le bromure comme substitut. Bien que le chatbot ait cherché à obtenir plus de contexte, il n’a jamais averti de l’utilisation du bromure et semblait ne pas savoir que le chlorure de sodium est principalement utilisé comme sel de table.
Réflexions sur l’avenir des modèles d’IA
Sam Altman, le CEO d’OpenAI, a récemment déclaré que leur nouveau modèle GPT-5 est prétendument le meilleur en matière de santé. Étant donné que l’individu affecté a utilisé soit ChatGPT-3.5 soit ChatGPT-4, nous espérons sincèrement que cette nouvelle version sera plus fiable, surtout pour ceux qui, sans compétences en matière d’intelligence artificielle, pourraient croire sans réserve aux recommandations des chatbots.
FAQ
Qu’est-ce que le bromisme ?
Le bromisme est un trouble neuropsychiatrique causé par une toxicité au bromure, présentant des symptômes tels que confusion, troubles de la parole et hallucinations.
Pourquoi le bromure de sodium est-il considéré comme toxique aujourd’hui ?
Le bromure de sodium et ses dérivés ont été reconnus pour leurs effets toxiques après une utilisation extensive au 19e et 20e siècles, menant à des cas de bromisme.
Que faire en cas d’ingestion accidentelle de bromure de sodium ?
En cas d’ingestion accidentelle, il est crucial de contacter immédiatement un professionnel de la santé ou un centre antipoison.
Comment réduire ma consommation de sel de manière sûre ?
Pour réduire votre consommation de sel, privilégiez les herbes, les épices et des méthodes de cuisson saines. Consulter un professionnel de santé pour des alternatives adaptées est toujours conseillé.
Y a-t-il d’autres ressources pour des conseils de santé fiables ?
Oui, il est préférable de se tourner vers des sites de santé fiables tels que ceux d’organisations médicales, ou de consulter un professionnel de santé qualifié pour des besoins médicaux.
