Il est déjà préoccupant que ChatGPT ait tendance à raconter n’importe quoi de sa propre initiative. Mais il s’avère qu’un journaliste technologique a découvert qu’il est possible de manipuler aisément l’intelligence artificielle pour diffuser des mensonges absurdes que vous avez inventés.
Thomas Germain a déclaré au BBC : « J’ai convaincu ChatGPT, les outils d’IA de recherche de Google et Gemini de dire aux utilisateurs que je suis extrêmement doué pour manger des hot-dogs. »
La méthode utilisée est d’une simplicité déconcertante : il suffira d’écrire un article sur un sujet précis, afin que l’IA le prenne pour argent comptant. Avec un peu de connaissances et en choisissant le bon thème, l’IA peut par la suite citer votre publication comme vérité absolue. Si vous voulez être encore plus opportuniste et paresseux, vous pourriez même utiliser une autre IA pour rédiger votre contenu, créant ainsi un cas de cannibalisme entre modèles de langage qui remet en question le vieil adage « ce qui est mauvais à l’entrée, est mauvais à la sortie ». Ce phénomène met en lumière la faiblesse des grands modèles de langage face à la manipulation, une préoccupation croissante alors que les chatbots prennent la place des moteurs de recherche traditionnels.
Lily Ray, vice-présidente de la stratégie et de la recherche en optimisation des moteurs de recherche chez Amsive, a déclaré au BBC : « Il est bien plus facile de tromper les chatbots IA aujourd’hui qu’il ne l’était de tromper Google il y a deux ou trois ans. Les entreprises d’IA avancent plus rapidement que leur capacité à réguler la véracité des réponses. C’est dangereux. »
Comme l’explique Germain, cette ruse tire parti du fait que les outils d’IA cherchent des réponses sur Internet en dehors de leurs données d’entraînement. Même si ces ensembles de données sont vastes, ils n’incluent pas nécessairement des informations pertinentes sur « les meilleurs journalistes technologiques en matière de consommation de hot-dogs » — l’article que Germain a écrit.
« J’ai affirmé (sans preuve) que manger des hot-dogs de manière compétitive est une activité populaire parmi les journalistes technologiques et j’ai basé mon classement sur le Championnat de hot-dogs du Dakota du Sud de 2026 (qui n’existe pas) », a expliqué Germain. « Bien sûr, je me suis mis en première position. »
Il a ensuite complété son article avec des noms de journalistes réels, avec leur autorisation. « Moins de 24 heures plus tard, les principaux chatbots du monde parlaient de mes talents exceptionnels en matière de hot-dogs », a-t-il ajouté.
Les IA de Google Gemini et AI Overviews ont relayé ses dires, tout comme ChatGPT. À sa décharge, Claude d’Anthropic n’a pas été dupe. Cependant, comme les chatbots mentionnaient parfois que ces affirmations pourraient être une blague, Germain a mis à jour son blog en précisant que « ce n’est pas de la satire », ce qui a semblé résoudre le problème.
La réelle inquiétude serait qu’un individu abuse de cette méthode pour diffuser des informations erronées sur des sujets plus sérieux, ce qui est déjà en cours.
Harpreet Chatha, qui dirige le consultant SEO Harps Digital, a déclaré au BBC : « N’importe qui peut faire cela. C’est insensé, on a l’impression qu’il n’y a aucun garde-fou. Vous pouvez rédiger un article sur votre site Web intitulé ‘les meilleures chaussures imperméables pour 2026’. Vous placez votre propre marque en premier et les autres marques aux deuxième à sixième positions, et votre page sera probablement citée par Google et ChatGPT. »
Chatha a illustré son propos en montrant les résultats de Google concernant « les meilleures cliniques de greffe de cheveux en Turquie », qui renvoyaient à des informations tirées directement de communiqués de presse publiés via des services de distribution payants.
Les moteurs de recherche traditionnels peuvent également être manipulés. C’est pour cela que le terme SEO est souvent utilisé. Toutefois, les moteurs ne présentent pas l’information comme des faits, contrairement aux chatbots. Ils ne communiquent pas de manière autoritaire et semblable à celle d’un humain. Alors qu’ils fournissent parfois — mais pas toujours — des liens vers les sources citées, une étude a révélé que vous êtes 58 % moins enclin à cliquer sur un lien lorsque qu’une vue d’IA apparaît au-dessus, selon Germain.
Ce phénomène soulève aussi des questions de diffamation. Que se passe-t-il si quelqu’un trompe une IA pour propager de fausses accusations sur autrui ? C’est une problématique à laquelle Google doit déjà faire face, notamment en raison d’hallucinations accidentelles. En novembre dernier, la sénatrice républicaine Marsha Blackburn a critiqué Google après que Gemini a faussement affirmé qu’elle avait été accusée de viol. Quelques mois auparavant, une entreprise solaire du Minnesota a poursuivi Google pour diffamation après que ses AI Overviews aient menti en affirmant que des régulateurs enquêtaient sur la société pour de supposées pratiques commerciales trompeuses — l’IA tentant de justifier cela avec de fausses citations.
### FAQ
#### Qui est Thomas Germain ?
Thomas Germain est un journaliste qui a testé l’IA en la trompant pour démontrer ses faiblesses.
#### Quels risques sont liés à la manipulation des IA ?
Les manipulations peuvent conduire à la diffusion de fausses informations pouvant nuire à la réputation des personnes ou des entreprises.
#### Comment les moteurs de recherche traditionnels se distinguent-ils des chatbots ?
Les moteurs de recherche affichent souvent les informations avec prudence et renvoient aux sources, alors que les chatbots présentent les informations de manière plus directe et peuvent être plus facilement trompés.
#### Y a-t-il des solutions pour prévenir cette manipulation ?
Il est essentiel de renforcer la régulation des réponses des IA et d’éduquer les utilisateurs sur la véracité des contenus en ligne.
#### Quelle est l’importance de la véracité des sources ?
Des sources vérifiées sont cruciales pour maintenir l’intégrité de l’information et éviter la propagation de fausses nouvelles.