L’essor des chatbots IA et leurs dangers en santé
L’utilisation des chatbots d’intelligence artificielle connaît une popularité fulgurante, mais ces outils ne sont pas sans risque. En effet, ils peuvent fournir des conseils de santé déplorables et même dangereux, alimentés par une avalanche de désinformation facilement accessible, ce qui inquiète les spécialistes.
Utilisateurs mal informés et conseils trompeurs
L’essor de ces technologies transforme de nombreux utilisateurs en experts du confort de leur fauteuil, les amenant parfois à se fier à des recommandations qui sont périmées, mal attribuées ou totalement inventées. Une enquête récente menée par The Guardian a révélé que les résultats de recherche AI proposés par Google sont souvent truffés d’informations médicales erronées qui pourraient engendrer des menaces sérieuses pour la santé si elles sont suivies.
OpenAI : malgré les avertissements
Malgré les mises en garde des experts sur le fait que les conseils de santé fournis par l’IA ne sont pas fiables, OpenAI semble persister en lançant une nouvelle fonctionnalité, ChatGPT Health. Ce service pourrait ingérer vos dossiers médicaux dans le but de fournir des réponses plus adaptées à vos besoins. Néanmoins, cette fonction est censée compléter plutôt que remplacer les soins médicaux présents. Il est ironique de constater qu’elle s’accompagne d’un avertissement stipulant qu’elle n’est pas destinée au diagnostic ou au traitement.
La réalité de l’utilisateur
En pratique, il est certain que de nombreux utilisateurs utiliseront cette fonctionnalité pour obtenir précisément le type de conseils contre lequel OpenAI met en garde dans ses mentions légales. Cela pourrait rappeler les erreurs passées et engendrer de nouvelles embarrassantes pour l’entreprise, exacerbant des problèmes déjà existants. Comme le souligne Business Insider, ChatGPT contribue à faire de chacun un avocat ou un médecin amateur, au grand désespoir des professionnels du secteur médical et juridique.
Des implications inquiétantes
Des avocats spécialisés, comme Jonathan Freidin à Miami, constatent une hausse des appels de personnes convaincues d’avoir une base solide pour des poursuites, influencées par ce que leur a dit un chatbot. Bien que certaines plaintes puisse avoir un fondement, cela ne garantit pas forcément la viabilité d’un dossier. En outre, un point alarmant est la disposition des utilisateurs à partager des informations médicales sensibles avec des applications, même si la loi fédérale, telle que la HIPAA, ne s’applique pas à ces produits de consommation.
Une situation similaire s’est produite lorsqu’Elon Musk a incité les utilisateurs à partager leurs informations médicales sur son service concurrent Grok. Cela a conduit à une confusion lorsque des utilisateurs ont reçu des diagnostics erronés après avoir partagé leurs radiographies et scans PET.
Risques pour la vie privée
Étant donné le précédent de l’industrie de l’IA en matière de protection de la vie privée et les fuites de données notables, les risques liés au partage de données de santé demeurent préoccupants. Andrew Crawford, avocat senior au Centre pour la démocratie et la technologie, a souligné que bien que ces outils puissent améliorer la compréhension des patients concernant leur santé, la protection des données est primordiale. La séparation stricte entre les données de santé et les autres informations personnelles doit être assurée.
Il est également crucial de s’interroger sur la manière dont OpenAI gère les demandes des forces de l’ordre. Les utilisateurs sont-ils avertis lorsque leurs données sont partagées? De telles questions posent des problèmes éthiques qui nécessitent des clarifications.
FAQ
Que sont les chatbots d’intelligence artificielle?
Les chatbots d’intelligence artificielle sont des programmes conçus pour interagir avec les utilisateurs de manière naturelle, souvent utilisés pour fournir des réponses à des questions variées, y compris des conseils de santé.
Quels sont les risques des conseils de santé fournis par des chatbots?
Les conseils fournis peuvent être basés sur des informations inexactes, ce qui pourrait conduire à des décisions médicales dangereuses. Il est essentiel de ne pas les considérer comme des recommandations médicales fiables.
Que faire si vous avez reçu un conseil médical d’un chatbot?
Si vous recevez un conseil médical d’un chatbot, il est crucial de consulter un professionnel de santé qualifié avant de prendre des décisions basées sur cette information.
Quel est le rôle d’OpenAI dans la collecte de données personnelles?
OpenAI développe des fonctionnalités qui peuvent collecter des données personnelles, y compris des dossiers médicaux, mais il y a des préoccupations sur la manière dont ces données sont protégées.
Comment les utilisateurs peuvent-ils protéger leur vie privée lorsqu’ils utilisent des chatbots?
Les utilisateurs devraient éviter de partager des informations médicales sensibles avec des chatbots, vérifier les politiques de confidentialité des services qu’ils utilisent, et être conscients des implications de leurs partages de données.
