Google réduit les résumés de recherche IA après des inquiétudes liées à la santé.

Google : Un géant de la technologie devenu un risque pour la santé

Le géant technologique, autrefois considéré comme une source de confiance, s’est vu dernièrement critiqué pour son impact sur la santé des utilisateurs. En effet, Google a discrètement retiré plusieurs résumés de santé générés par l’IA après que des enquêtes menées par The Guardian aient mis en évidence des informations trompeuses potentiellement mortelles pour des patients. Des experts de la santé qualifient cette situation de “préoccupante” et “dangereuse”.

Google utilise sa fonctionnalité d’Aperçus IA pour fournir des conseils médicaux instantanés à des millions d’utilisateurs grâce à sa part de marché de 91 % dans les recherches. Cependant, lors de recherches sur des informations cruciales concernant des tests hépatiques, l’IA a proposé des recommandations potentiellement fatales sans tenir compte des facteurs d’âge, de sexe ou d’origine ethnique. Les professionnels de la santé soulignent que ces omissions peuvent pousser des patients gravement malades à négliger des soins de suivi indispensables à leur survie.

Les erreurs mortelles qui ont contraint Google à agir

The Guardian a révélé que l’IA de Google fournissait des conseils nutritionnels erronés pour les personnes atteintes de cancer du pancréas, ce qui pourrait entraîner des problèmes de malnutrition. Par ailleurs, les résultats des tests de fonction hépatique étaient présentés comme des normes universelles, alors qu’ils varient considérablement selon les caractéristiques des patients.

Vanessa Hebditch, représentant de la British Liver Trust, a déclaré que les résumés de l’IA affichent les taux de tests de manière très accrocheuse, ce qui rend dangereux pour les patients de réaliser que ces plages de résultats ne s’appliquent pas nécessairement à leur situation. De plus, ces résumés n’avertissent pas que des personnes peuvent afficher des résultats normaux tout en nécessitant une intervention médicale urgente pour des maladies hépatiques graves.

Les organisations de santé ont rapidement réagi, exprimant leurs inquiétudes quant au fait que les patients puissent retarder des décisions médicales critiques basées sur des informations générées par l’IA qui semblent fiables, car elles apparaissent en tête des résultats de recherche.

Ce que Google ne vous dit pas

La réaction de Google met en lumière des lacunes inquiétantes dans leurs mesures de sécurité. Même si la compagnie a retiré les Aperçus IA pour certaines recherches liées au foie, des enquêtes ont montré que des formulations légèrement différentes déclenchent encore les mêmes résumés dangereux. Un porte-parole de Google a déclaré à The Independent qu’ils ne commentaient pas les suppressions individuelles, ce qui soulève des questions sur la transparence de l’entreprise.

L’examen interne de la société a révélé que de nombreuses réponses de l’IA étaient soutenues par des “sites web de haute qualité,” selon les rapports d’actualité. Toutefois, des experts affirment que cela manque totalement de vision — le contexte et la personnalisation sont plus cruciaux que la simple précision, surtout lorsque des vies sont en jeu.

Les analyses de la semaine dernière montrent que les Aperçus IA apparaissent dans jusqu’à 30 % des recherches, fournissant des informations de santé que des experts décrivent comme “totalement fausses” et “vraiment dangereuses” dans les cas de cancer et de santé mentale.

Pourquoi cette situation est-elle préoccupante ?

Les implications de cette crise dépassent largement la plateforme de Google. Une étude de recherche conjointe de Stanford et Harvard de l’année dernière a révélé que des modèles IA de pointe produisaient de mauvaises recommandations médicales dans jusqu’à 22 % des cas, principalement en raison d’omissions coûteuses plutôt que d’erreurs directes.

Cette situation met en avant la manière dont les entreprises d’IA ont privilégié la rapidité au détriment de la sécurité dans la course à déployer des fonctionnalités génératives. Des discussions dans l’industrie soulignent des tests insuffisants dans les domaines de la santé, tandis que les décideurs politiques mettent en avant la nécessité d’avertissements obligatoires concernant le contenu médical généré par l’IA.

Alors que les communautés technologiques appellent à une action urgente pour prévenir que la désinformation produite par l’IA ne cause des préjudices réels, des millions de personnes continuent de se fier à Google pour des conseils médicaux.

Ces révélations soulignent la rapidité avec laquelle les innovations en matière d’IA peuvent passer d’outils utiles à des menaces mortelles. La précipitation de Google pour réparer les erreurs montre que cette crise est loin d’être résolue.

En effet, alors que le nombre de développeurs utilisant Tailwind CSS n’a jamais été aussi élevé, l’entreprise qui le promeut est en déclin rapide… et l’IA en est responsable.

---

FAQ

Qu’est-ce que l’IA de Google utilise pour donner des conseils médicaux ?

L’IA utilise des algorithmes et des données provenant de divers sites web pour fournir des Aperçus sur les questions de santé.

Quels types de problèmes l’IA a-t-elle révélés dans ses conseils médicaux ?

Des erreurs liées à des recommandations nutritionnelles fausses, ainsi qu’une présentation inappropriée des résultats de tests médicaux, ont été identifiées.

Comment les organismes de santé réagissent-ils à ces problèmes ?

Ils expriment des inquiétudes concernant la sécurité des patients, appelant à une régulation stricte sur les informations générées par l’IA.

Quelles mesures ont été proposées pour rectifier la désinformation de l’IA ?

Les décideurs politiques proposent des avertissements obligatoires pour les contenus générés par IA, afin d’éviter que les utilisateurs ne prennent de mauvaises décisions médicales.

Pourquoi est-il crucial de réguler les informations de santé générées par l’IA ?

Parce que de mauvaises informations peuvent mener à des retards dans les soins médicaux essentiels, mettant en danger la vie des patients.