L’IA de Google fournit des conseils “santé” potentiellement dangereux.

    <div class="newsletter-cta-description">
        <p class="article-paragraph skip">Des innovations indispensables à la pointe de la science et de la technologie</p>
    </div>
</div>

En mai 2024, Google a pris une décision risquée en lançant sa fonctionnalité d’Aperçus IA, dans l’idée de faciliter la recherche d’informations.

Cependant, les **hallucinations** générées par l’IA qui ont suivi — comme par exemple suggérer aux utilisateurs de manger des pierres ou de mettre de la colle sur leurs pizzas — ont parfaitement mis en évidence les **problèmes persistants** rencontrés par les outils basés sur des modèles de langage important.

Bien que ne pas savoir quelles années nous vivons ou avoir des explications fantaisistes sur des expressions inexistantes puisse sembler être de simples erreurs pouvant frustrer les utilisateurs, certains conseils prodigués par la fonction Aperçus IA pourraient avoir des conséquences bien plus graves.

Une enquête récente menée par The Guardian a révélé que les résumés proposés par cet outil contenaient des informations sanitaires **erronées** susceptibles de mettre en danger la vie des utilisateurs. Des experts alertent que cela pourrait facilement mener à des situations où des conseils dangereux mettent les utilisateurs en péril — dans le pire des cas, entraînant des décès.

L’enquête révèle des cas préoccupants. Par exemple, The Guardian a constaté qu’il conseillait aux personnes atteintes de cancer du pancréas d’éviter les aliments riches en graisses, alors que les médecins recommandent précisément le contraire. De plus, des informations sur les tests de dépistage du cancer chez les femmes ont été complètement faussées, ce qui pourrait inciter à ignorer de réels symptômes de la maladie.

La situation est délicate, car les personnes vulnérables et en détresse se tournent souvent vers Internet pour se **diagnostiquer**.

« Les gens cherchent des informations en ligne lorsqu’ils s’inquiètent ou traversent une crise », a déclaré Stephanie Parker, directrice numérique de l’association caritative Marie Curie, lors d’un entretien avec The Guardian. « Si les informations qu’ils obtiennent sont inexactes ou décontextualisées, cela peut nuire gravement à leur santé. »

D’autres ont également exprimé leurs inquiétudes face au fait que la fonctionnalité produise des réponses complètement différentes à des questions identiques, une faille bien connue des outils basés sur des modèles de langage qui peut engendrer de la confusion.

Stephen Buckle, responsable de l’information à l’association de santé mentale Mind, a fait part de son inquiétude, affirmant que les Aperçus IA prodiguaient des « conseils très dangereux » sur des troubles alimentaires et des psychoses, des résumés qu’il qualifiait d’« incorrects, nuisibles ou pouvant inciter les gens à éviter de demander de l’aide ».

Un porte-parole de Google a déclaré à The Guardian que la société investit « de manière significative dans la qualité des Aperçus IA, surtout pour des sujets comme la santé, et que la grande majorité des informations fournies sont exactes. »

Cependant, au vu des résultats de l’enquête, il est clair que l’entreprise a encore beaucoup de travail pour s’assurer que son outil d’IA ne diffuse pas de désinformations dangereuses en matière de santé.

Les risques pourraient continuer à croître. Une enquête réalisée en avril 2025 par le *Annenberg Public Policy Center* de l’Université de Pennsylvanie a révélé que près de huit adultes sur dix étaient susceptibles d’effectuer des recherches en ligne concernant des symptômes et des conditions de santé. Près des deux tiers d’entre eux ont jugé les résultats générés par l’IA comme étant « quelque peu ou très fiables », ce qui soulève de sérieuses questions de confiance.

Dans le même temps, près de la moitié des personnes interrogées se disaient mal à l’aise à l’idée que les prestataires de soins de santé se servent de l’IA pour prendre des décisions concernant leur traitement.

Une étude distincte du MIT a révélé que les participants considéraient des réponses générées par l’IA, même si souvent peu précises, comme « valables, dignes de confiance et satisfaisantes », affichant même « une forte tendance à suivre des conseils médicaux potentiellement nuisibles et à rechercher des soins médicaux inutiles en raison des réponses fournies. »

Cela survient alors même que les modèles d’IA continuent de démontrer leurs limites en tant que remplacements pour les **professionnels de santé** humains.

Face à cette situation, les médecins doivent faire face au défi de résister aux **mythes** et à tenter de dissuader les patients de se laisser influencer par une IA qui se montre inexacte.

Sur son site web, l’Association médicale canadienne qualifie les conseils en matière de santé générés par l’IA de « dangereux », soulignant que les hallucinations, ainsi que les biais algorithmiques et les informations dépassées, peuvent “induire en erreur et potentiellement nuire à votre santé” si les patients choisissent de suivre ces recommandations.

Les experts continuent de recommander aux gens de consulter des médecins et des professionnels de santé certifiés plutôt que de se fier à l’IA, une demande particulièrement difficile compte tenu des nombreux obstacles à l’accès à des soins adéquats dans le monde.

Il semble qu’Aperçus IA ait parfois conscience de ses propres limitations. Lors d’une **demande** sur sa fiabilité pour des conseils de santé, la fonction a même fait référence à l’enquête menée par The Guardian.

« Une enquête du Guardian a révélé que les Aperçus IA de Google affichent des informations médicales fausses et trompeuses susceptibles de mettre en danger les personnes », était la réponse fournie par les Aperçus IA.

Plus sur les Aperçus IA : Les résumés IA de Google mettent en péril la vie des développeurs de recettes