Une enquête a conduit Google à retirer des réponses liées à la santé générées par l’intelligence artificielle, lesquelles fournissaient des informations médicales incorrectes, selon un rapport de The Guardian.
Que s’est-il passé ?
Lors d’une recherche, si vous ne choisissez pas de vous désinscrire, l’outil AI Overviews de Google apparaît en haut des résultats. Cette fonctionnalité utilise l’IA générative pour fournir des réponses rapides, que Google présente comme un moyen fiable d’accéder à des informations.
Dans le cadre de l’enquête menée par The Guardian, l’outil a été interrogé sur des analyses sanguines pour évaluer la fonction hépatique. Les résultats fournis par l’IA omettaient des éléments essentiels, tels que le sexe, l’âge ou d’autres facteurs de santé des utilisateurs.
Des professionnels de santé ont qualifié ces résultats de “dangereux” et “préoccupants”. Un individu souffrant d’une maladie hépatique pourrait interpréter ces chiffres convenablement comme étant normaux et ainsi négliger une consultation médicale cruciale.
Vanessa Hebditch, directrice de la communication et des politiques au British Liver Trust, a souligné que “l’analyse des résultats d’un test de fonction hépatique est complexe et nécessite bien plus qu’une simple comparaison de chiffres”.
Bien que Google ait supprimé certaines résumés relatifs aux recherches sur les tests hépatiques, d’autres requêtes formulées différemment, comme “plage de référence LFT”, continuent à générer des réponses erronées.
Pourquoi les informations erronées de l’IA en matière de santé sont-elles préoccupantes ?
De nombreuses personnes ont du mal à trouver des conseils médicaux fiables sur Internet. Lorsque la plus grande plateforme de recherche propose des recommandations falsifiées, cela peut entraîner de véritables conséquences.
L’IA consomme une quantité considérable d’électricité et d’eau pendant son fonctionnement. Alors que les entreprises technologiques continuent de lancer de nouveaux produits liés à l’IA, la demande énergétique augmente sans cesse, ce qui exerce une pression sur les réseaux électriques et peut faire grimper les factures d’électricité.
Bien que cette technologie ait certains avantages, comme l’optimisation des réseaux d’énergie renouvelable et un accès accéléré à l’information, elle entraîne également des inconvénients, notamment une consommation excessive de ressources, des failles de sécurité potentielles et des erreurs significatives dans la gestion des sujets de santé.
Quelles mesures sont prises à propos de ces résumés générés par l’IA ?
En réponse aux résultats de l’enquête, Google a retiré les résumés de l’IA pour les requêtes liées aux tests sanguins hépatiques. La société a précisé qu’elle mettait en place des corrections plus étendues lorsqu’elle identifiait des erreurs significatives dans son outil.
Des groupes de défense des patients affirment cependant que Google doit aller plus loin dans ses actions.
Sue Farrington, présidente du Patient Information Forum, a déclaré à The Guardian que, bien que ce soit un bon premier pas, ce n’est que le début des efforts nécessaires pour maintenir la confiance dans les résultats de recherche liés à la santé.
Lorsque vous recherchez des conseils médicaux en ligne, il est essentiel de vérifier toutes les informations auprès d’organisations sanitaires reconnues ou de consulter un professionnel de la santé. Ne prenez pas vos décisions uniquement sur la base de résumés fournis par une IA, en particulier si vous devez comprendre des résultats de laboratoire ou des symptômes physiques.
FAQ
Quelles sont les conséquences des informations erronées fournies par des outils d’IA ?
Les informations incorrectes peuvent mener à des décisions de santé dangereuses, comme retarder des examens médicaux essentiels ou ignorer des symptômes graves.
Comment vérifier les informations médicales en ligne ?
Il est conseillé de comparer les conseils trouvés avec ceux fournis par des organismes de santé reconnus, comme des hôpitaux ou des associations médicales.
Quels types de tests peuvent être affectés par des informations erronées de l’IA ?
Les tests liés à des fonctions vitales comme le foie, les reins ou même des évaluations de santé mentale peuvent tous être faussés par de mauvaises interprétations des résultats.
Google prend-il des mesures pour améliorer la précision des informations de santé ?
Oui, suite à ces problèmes, Google a promis de mettre en place des corrections et des améliorations à son outil pour éviter de nouvelles erreurs à l’avenir.
Pourquoi l’IA consomme-t-elle autant de ressources ?
L’IA nécessite une grande puissance de calcul pour fonctionner, ce qui implique des centres de données sophistiqués, entraînant ainsi une consommation élevée d’électricité et d’autres ressources.
