Des Résultats Inquiétants et un Avenir Flou: Un récent article souligne les problèmes associés aux réponses générées par les « Aperçus » de l’IA de Google, qui fournissent fréquemment des éléments de réponse erronés et potentiellement dangereux. Cela soulève des questions alarmantes étant donné que la technologie est désormais mise à disposition pour donner des conseils médicaux.
Dans un article auto-congratulate, Karen DeSalvo, responsable de la santé chez Google, a affirmé que les avancées récentes des modèles Gemini et les systèmes de classement de l’entreprise permettraient à cet outil d’aborder des milliers de nouveaux sujets de santé. Cela pourrait sembler prometteur ; cependant, la réalité est moins rose.
Nouvelles Fonctions Préoccupantes: Une mise à jour annoncée de l’outil inclura une fonctionnalité nommée « Ce que les gens suggèrent », où des conseils de santé seront partagés par des amateurs du web. DeSalvo a déclaré que cette fonction serait accessible sur mobile aux États-Unis, mais les tentatives d’accès à cette fonctionnalité sur l’application Google ou le site web se sont révélées infructueuses.
Des Informations Peu Fiables: Des médias comme Futurism ont documenté que les réponses de l’IA de Google sont souvent clairement inexactes. Qu’il s’agisse de dire que des éléphants bébés peuvent tenir dans la paume de la main humaine ou de suggérer de mettre de la colle sur une pizza, l’outil a manifestement du mal à séparer le vrai du faux depuis près de deux ans. Une étude récente du Tow Center for Digital Journalism a révélé que le chatbot Gemini se trompait dans 60 % des cas sur des questions basiques.
Contraste avec le Passé: Il est ironique de noter que Google comptait autrefois des centaines d’employés dédiés à la santé avant de fermer sa division santé en 2021. Après cette fermeture, de nombreuses personnes ont été soit licenciées, soit réaffectées, ce qui soulève des questions sur la capacité d’une IA à fournir des informations de santé précises sans une équipe d’experts humains pour superviser le contenu. Plusieurs spécialistes, sondés sur leurs inquiétudes quant à la capacité de l’IA de Google à fournir des réponses médicinales de qualité, ont mentionné des échecs passés en matière de santé numérique de l’entreprise.
Les Réponses de Google: Face aux préoccupations soulevées sur la véracité des informations de santé fournies par l’IA, Google a été interrogé. Un représentant a mentionné l’existence de mécanismes en place pour garantir la qualité des réponses. Cependant, lors d’une précédente demande concernant les Aperçus de l’IA, la société avait reconnu qu’il n’y avait pas toujours de contenu de haute qualité disponible sur le web pour certaines questions, ce qui pourrait expliquer certaines erreurs.
Conclusion: Bien que Google cherche à innover dans le domaine de la santé avec son IA, il est impératif de faire preuve de prudence. Les résultats jusqu’à présent montrent une inquiétante tendance à fournir des informations incorrectes, et cela pourrait avoir des implications sérieuses pour les utilisateurs à la recherche de conseils médicaux fiables.
### FAQ
#### Qu’est-ce que la fonctionnalité “Ce que les gens suggèrent” ?
Cette fonction permet de récupérer des conseils de santé provenant d’amateurs sur Internet, ce qui pose des questions quant à leur fiabilité et à leur exactitude.
#### Pourquoi Google a-t-il fermé sa division santé ?
En 2021, Google a fermé sa division santé en raison de difficultés à mettre en œuvre des projets technologiques ambitieux, entraînant des licenciements et une réorganisation.
#### Comment Google garantit-il la qualité des réponses de son IA ?
Google a mentionné qu’il existe des gardes-fous et des politiques pour empêcher les réponses de basse qualité, mais il admet que sa technologie peut parfois fournir des informations inexactes en raison d’un manque de contenu de qualité sur le web.
#### Quel impact cela pourrait-il avoir sur les utilisateurs ?
Des informations médicales inexactes peuvent entraîner de mauvaises décisions de santé, il est donc crucial que les utilisateurs soient vigilants et recherchent des sources d’informations fiables.
#### Quelles alternatives aux conseils médicaux de Google sont disponibles ?
Les utilisateurs sont encouragés à consulter des professionnels de santé qualifiés ou des ressources médicales réputées pour des informations fiables et précises.
