Google continue de faire face à des défis pour protéger ses résultats de recherche des images falsifiées produites par intelligence artificielle.
Voilà maintenant trente ans que le tristement célèbre massacre de la place Tiananmen en Chine a eu lieu, et la photographie du « Tank Man », montrant un manifestant se tenant devant une rangée de tanks Type 59, demeure un symbole puissant de ce conflit tragique entre le gouvernement et les civils. Cependant, il semblerait que l’IA soit en train de réécrire l’histoire de cette image emblématique. En effectuant une recherche sur « Tank Man », il se peut que vous tombiez sur un faux « Selfie du Tank Man », généré par une intelligence artificielle, qui apparaît désormais comme l’un des résultats principaux sur la plateforme.
À noter que l’image ne semble pas avoir été produite dans le but de désinformer. Si son auteur l’avait intégrée dans un article de blog sur Tiananmen, cela aurait été différent. En réalité, comme le souligne 404 Media, qui a relayé l’information, ce faux avait été publié sur le subreddit r/midjourney il y a environ six mois. L’utilisateur, utilisant le pseudo **Ouroboros696969**, n’a jamais prétendu que l’image était authentique ; après tout, il l’a partagée dans une communauté dédiée aux images créées par IA.
Lorsqu’on l’a accusé de « propager de la désinformation » sur Google, **Ouroboros696969** a répliqué : « Discutez-en avec Google, je l’ai posté dans un SUBREDDIT SPÉCIFIQUEMENT DÉDIÉ À L’ART IA, espèce de sot. »
Il faut admettre que **Ouroboros696969** a un point. Peu importe l’intention de l’auteur, quand une image aussi douteuse parvient à un rang aussi élevé dans les résultats de recherche de Google, on peut soutenir qu’elle devient de la désinformation.
Google n’est pas seulement un simple réservoir d’informations. Grâce à ses algorithmes et aux aperçus de recherche, il joue également un rôle dans l’organisation des informations. Si l’organisation est défaillante, comme dans ce cas où un contenu issu d’un forum dédié aux images générées par IA est classé comme pertinent, cela risque de semer la confusion.
Il convient de noter que Google n’a pas totalement interdit les contenus synthétiques dans ses résultats de recherche. Comme indiqué dans sa politique en matière d’IA, les systèmes de classement de Google visent à promouvoir un contenu original et de haute qualité, basé sur l’expertise et la crédibilité.
Cela dit, un « Selfie du Tank Man », provenant d’une source où tout le monde peut poster, ne semble pas répondre à ces critères. La manière dont les algorithmes de Google ont géré cette situation ne rassure guère sur leur capacité à distinguer des cas plus complexes d’informations fausses générées par IA.
Cependant, il semble que Google travaille à résoudre ce problème. Dans nos tests, le selfie n’apparaissait que sur certains navigateurs, ce qui laissait penser que les algorithmes tentaient de régler ce problème en temps réel. Un représentant de Google a confirmé que des mesures avaient été prises pour « retirer l’image de la fonctionnalité de recherche », étant donné que ses politiques interdisent le contenu inexact sur des sujets d’intérêt public.
« Nous construisons nos systèmes pour fournir des informations utiles et de haute qualité, tout en offrant aux utilisateurs les outils nécessaires pour comprendre ce qu’ils trouvent en ligne, » a ajouté le représentant. Néanmoins, en raison de l’ampleur du web ouvert, il est possible que les systèmes ne sélectionnent pas toujours les meilleures images, qu’elles soient générées par IA ou non.
Malgré ces efforts, la situation actuelle des matériaux générés par IA dans les résultats de recherche de Google semble dysfonctionnelle. Nous sommes à un tournant en matière d’IA générative et de ses conséquences sur notre monde numérique ; si les algorithmes de Google ne parviennent pas à suivre le rythme, l’ensemble de l’utilisation du web pourrait en pâtir.
Plus d’infos sur le contenu généré par IA : Microsoft publie un article fort mal formulé décrivant un joueur de la NBA tragiquement décédé comme « inutile ».
FAQ
Qu’est-ce que le “Tank Man” ?
Le “Tank Man” fait référence à une célèbre image d’un manifestant se tenant devant une colonne de tanks pendant les événements de la place Tiananmen en juin 1989. Cette photo est devenue un symbole iconique de la lutte pour la démocratie et les droits humains en Chine.
Pourquoi Google n’a-t-il pas supprimé immédiatement le contenu généré par IA ?
Google s’efforce de maintenir un équilibre dans ses résultats de recherche. En conséquence, il analyse les informations avant de prendre des mesures, ce qui peut parfois prendre du temps.
Comment détecter les contenus générés par IA ?
Les utilisateurs peuvent souvent repérer des incohérences dans les contenus générés par IA, comme des erreurs factuelles ou un manque de profondeur dans les analyses.
Quels sont les risques associés à la désinformation sur Internet ?
La désinformation peut engendrer la confusion, fausser l’opinion publique et mener à des conséquences sociales, politiques et économiques négatives. Elle peut également miner la confiance dans les sources d’information légitimes.
Quelle est l’importance d’un contenu de qualité selon Google ?
Google insiste sur le fait qu’un contenu de qualité, basé sur l’expertise et la crédibilité, est essentiel pour fournir des informations fiables aux utilisateurs.
