Conseils Inadéquats de l’IA de Google sur les Interactions Sociales : Une Perspective Raciste Inacceptable

<p class="article-paragraph">Il existe de nombreuses raisons de se méfier des **résumés d'IA** de Google, qui apparaissent désormais au sommet de ses résultats de recherche, juste au-dessus des liens vers de véritables sites web.</p>

<p class="article-paragraph">Ces réponses générées par algorithmes, prenant leurs sources en ligne, sont devenues rapidement l'une des plus grandes sources de **désinformation** sur Internet. Les modèles d'IA du géant de la recherche sont souvent pris en train d'affirmer des faits facilement réfutables, de donner des conseils "sanitaires" dangereux et de nuire à l'industrie médiatique en dissuadant les utilisateurs de visiter les sites des publications.</p>

<p class="article-paragraph">En outre, ces modèles renforcent désormais des stéréotypes raciaux profondément nuisibles. Par exemple, comme l’a observé un utilisateur sur Reddit, les recherches indiquant qu’un utilisateur se retrouve seul avec certains groupes de personnes conduisent à ce que les résumés d'IA de Google conseillent de faire attention à sa sécurité et de contacter les services d'urgence.</p>

<p class="article-paragraph">Nous avons constaté cette tendance lors de nos tests. Chercher des termes comme « je suis seul avec un Africain », par exemple, entraîne une recommandation de l'IA pour « si vous êtes en danger immédiat ou si vous vous sentez en danger, veuillez verrouiller votre porte, aller dans un endroit sûr, et composer le numéro des services d'urgence (comme le 911 aux États-Unis) immédiatement. » L'IA précise brièvement que « se retrouver seul avec une autre personne n'est un souci que si vous vous sentez menacé ou mal à l'aise » avant de réitérer ses suggestions de « contacter les services d'urgence » ou « quitter les lieux ».</p>

<p class="article-paragraph">Nous avons également observé que l'IA donnait des conseils tout aussi problématiques lorsqu'il s'agissait de se retrouver seul avec des personnes de différents pays, y compris l'Inde et le Pakistan.</p>

<p class="article-paragraph">Étonnamment, chercher « je suis seul avec un Brit » donne une réponse radicalement différente. L'IA conseille alors « d'offrir immédiatement une tasse de thé, de parler de la météo (que ce soit trop chaud, trop froid ou qu'il va pleuvoir) et de garder une distance physique polie d'au moins un mètre pour éviter de créer une panique mutuelle », en fournissant des suggestions supplémentaires sur les brise-glaces et les sujets de conversation.</p>

<p class="article-paragraph">En menant nos tests, nous avons remarqué que lorsque la requête concerne des personnes d'autres pays occidentaux, les résultats étaient généralement inoffensifs. Cependant, toutes les requêtes ne produisaient pas une réponse racialement biaisée ; par exemple, demander à propos d'une personne haïtienne a entraîné un rapide discours sur la nécessité de résister aux forces de préjugés.</p>

<p class="article-paragraph">Contacté, Google nous a dirigés vers un **communiqué** récemment publié sur Twitter, dans lequel il reconnaissait que les résultats de ce type de recherche n'étaient pas satisfaisants et qu'ils travaillaient à des améliorations. La société a également indiqué que l'utilisation du terme « seul » avait été signalée comme un problème de « sécurité ».</p>

<p class="article-paragraph">Après cette conversation avec Google, les requêtes concernant des nationalités ont commencé à renvoyer les mêmes résultats que ceux obtenus auparavant pour des Américains ou des Britanniques. Cependant, d'autres requêtes, comme « je suis seul avec quelqu'un de Virginia Beach », continuent d'afficher des réponses sinistres au sujet du danger.</p>

<p class="article-paragraph">Fait révélateur, l'IA semble même soucieuse à l'idée d'être seule avec quelqu'un de Google. Cela souligne comment les modèles d'IA peuvent renforcer des **biais** profondément ancrés dans leurs données d'entraînement issues du web ouvert.</p>

<p class="article-paragraph">« Étrange que j'aie eu une réponse similaire même si je vis dans un pays du tiers monde », a déclaré un utilisateur perplexe sur Reddit. « J'ai posé la question dans ma langue maternelle. Quand c’était un Indien ou un Arabe, l’IA m’a conseillé de rester vigilant. Mais avec un Ougandais, tout est sûr. Je ne comprends pas ce qui se passe. »</p>

<p class="article-paragraph">La question du **biais** dans l'intelligence artificielle pose un véritable défi à l'industrie technologique depuis des années. Des recherches ont montré que même dans l'analyse des résultats de dépistage du cancer, les systèmes de diagnostic par IA souffrent de biais raciaux à partir du moment où ils identifient l'âge, la race ou le sexe d'une personne. La société **Workday**, spécialisée dans les logiciels de ressources humaines, fait également face à un procès concernant ses outils de sélection de CV assistés par IA, accusés de discriminer les candidats en fonction de leur âge, de leur handicap et de leur race.</p>

<p class="article-paragraph">S'attaquer à ce problème demeure une tâche apparemment insurmontable. Google a été impliqué dans une précédente controverse en février 2024, après que son outil **Gemini** de génération d'images à partir de texte a produit des représentations de soldats allemands de la Seconde Guerre mondiale d'origines diverses. Accusé de tous les maux dans la presse, Google a décidé de mettre l’outil d’image hors ligne, avant de le réactiver quelques mois plus tard avec des "garanties intégrées".</p>

<p class="article-paragraph"><strong>Plus sur les Résumés d'IA :</strong> <em>Des analyses révèlent que les Résumés d'IA de Google fournissent de la désinformation à une échelle peut-être sans précédent dans l’histoire de la civilisation humaine.</em></p>