La montée de la désinformation par l’IA
Une récente étude menée par des chercheurs de Google a révélé que l’intelligence artificielle (IA) est désormais la principale source de désinformation basée sur des images sur Internet. Bien que ces conclusions n’aient pas encore été soumises à un examen par les pairs, elles soulèvent des inquiétudes majeures en raison de leur nature troublante, révélant ainsi l’une des tensions fondamentales au cœur de la compétition en IA à Silicon Valley.
Une préoccupation croissante pour la société
Selon le document, “la prévalence et les dommages causés par la désinformation en ligne sont une préoccupation constante pour les plateformes Internet, les institutions et la société dans son ensemble”. L’essor des outils d’IA générative, qui facilitent la création d’audio, d’images, de vidéos et de contenus textuels réalistes, exacerbe ces préoccupations.
La méthodologie de l’étude
L’étude, initialement mise en avant par Alexios Mantzarlis, un ancien employé de Google, s’est concentrée sur la désinformation médiatique, définie comme l’information erronée diffusée à travers des supports visuels comme des images et des vidéos. Pour affiner les recherches, les chercheurs ont analysé des contenus ayant été vérifiés par le service ClaimReview, totalisant 135 838 éléments médiatiques étiquetés.
Une efficacité redoutable de l’IA
Les résultats montrent que l’IA excelle à produire du contenu synthétique de manière rapide et efficace, à une échelle auparavant impossible sans un travail manuel colossal. Selon l’étude, depuis 2023, une croissance exponentielle du contenu généré par l’IA a été observée, tandis que d’autres formes de manipulation de contenu ont diminué. Malgré cela, l’augmentation des médias générés par l’IA n’a pas entraîné de hausse significative dans la proportion globale des allégations de désinformation visuelles.
Une inquiétante tendance
Les résultats laissent entendre que les acteurs de la désinformation privilégient de plus en plus l’IA comme outil. D’après l’étude, environ 80 % de la désinformation visuelle provient désormais de contenus générés par l’IA. Toutefois, des sources comme 404 Media signalent que ce chiffre pourrait être sous-estimé, car les outils de vérification de faits, comme ClaimReview, ne capturent pas l’ampleur totale du problème. En effet, l’étude ne tenait pas compte des cas où l’IA était utilisée de manière partielle, par exemple dans des publicités politiques.
Une limite dans les capacités de vérification
Nick Dufour, l’un des auteurs principaux de l’étude, a souligné que “la capacité des vérificateurs de faits n’est pas illimitée et qu’on ne peut pas supposer qu’elle évoluera en parallèle avec le volume de désinformation”. Cela pose des défis supplémentaires pour le contrôle des contenus en ligne.
La position précaire de Google
Ces constatations, bien que frappantes, prennent une dimension encore plus marquée en raison de leur provenance, principalement de chercheurs de Google. La société est l’un des acteurs majeurs de la course actuelle à l’IA et tente activement d’intégrer des modèles d’IA pour générer du texte et des images dans ses produits, mais se retrouve également confrontée à la prolifération de la désinformation, qui nuit à la qualité des résultats de recherche.
Naviguer sur le web : un défi croissant
Les outils d’IA ont simplifié et massifié la création de contenu, transformant un processus auparavant sur mesure en une production à grande échelle. Cette évolution crée de véritables préoccupations pour Google et ses homologues, rendant le web plus difficile à parcourir.
Face à cela, il est essentiel d’être vigilant et de ne pas croire aveuglément tout ce que l’on voit ou lit en ligne. La distinction entre le réel et le faux devient de plus en plus floue, comme l’a souligné Mantzarlis en déclarant : “Une image vaut 1 000 mensonges”.
FAQ
Qu’est-ce que l’IA générative ?
L’IA générative désigne des systèmes alimentés par l’intelligence artificielle, capables de créer des contenus variés comme des images, des vidéos ou du texte. Ces outils utilisent des algorithmes avancés pour fournir des résultats réalistes en un temps réduit.
Comment la désinformation impacte-t-elle les recherches en ligne ?
La désinformation peut fausser les résultats des recherches, rendant difficile pour les utilisateurs de trouver des informations fiables. Les contenus trompeurs peuvent également nuire à la crédibilité des plateformes de recherche.
Quels sont les défis pour les vérificateurs de faits ?
Les vérificateurs de faits sont souvent débordés par le volume croissant de contenu à traiter. Leur capacité à maintenir une vérification efficace est limitée par les ressources disponibles, sans compter que de nombreux types de désinformation échappent à la portée de leurs outils.
Comment les utilisateurs peuvent-ils se protéger contre la désinformation ?
Les utilisateurs doivent toujours vérifier la source des informations qu’ils consomment, recouper les faits entre plusieurs sources et se méfier des contenus qui semblent trop sensationnels ou douteux.
Quelle est l’importance de l’éducation numérique ?
L’éducation numérique est essentielle pour aider les individus à comprendre et à naviguer dans le paysage complexe des informations en ligne. Cela inclut l’apprentissage des compétences nécessaires pour identifier la désinformation et évaluer la fiabilité des sources.
