ChatGPT est trompé par des sites frauduleux gérés par des arnaqueurs, ce qui pourrait également vous mettre en danger.
D’après le service de vérification des arnaques Ask Silver, le chatbot d’OpenAI recommande des versions clonées de sites abandonnés qui exploitent des marques bien connues pour vous voler votre argent et vos informations bancaires, comme le rapporte The Guardian.
Un exemple frappant de site frauduleux mentionné par ChatGPT était une imitation du détaillant britannique de chaussures et de sacs, Russell & Bromley.
Selon Anna Jones d'Ask Silver, "Les arnaqueurs tirent parti du fait que Russell & Bromley a été mis en administration en janvier 2026 et a été absorbé par Next. Ainsi, il n'existe plus de site officiel Russell & Bromley, mais les clients potentiels continueront sans doute à le chercher."
Ce qui est alarmant, c'est que ChatGPT a recommandé ces sites frauduleux lorsqu'on lui a demandé des "sacs et pochettes populaires de Russell & Bromley". La formulation spécifique de la requête pourrait inciter le client potentiel à baisser sa garde, s'attendant à ce que l'IA provienne du site officiel. Les faux sites peuvent sembler convaincants et utiliser des URL qui semblent officielles, telles que “therussellbromleyofficial dot com”, par exemple.
Jones a expliqué à The Guardian que le modèle de langage sous-jacent de ChatGPT pourrait avoir été "empoisonné" par du contenu malveillant introduit dans ses données d'entraînement, ce qui le prédispose à afficher des pages frauduleuses.
C’est un signe supplémentaire que même les modèles d'IA les plus avancés peuvent être manipulés pour promouvoir ce que des acteurs malveillants souhaitent. Plus tôt cette année, un journaliste de la BBC a démontré comment il avait trompé ChatGPT en l'amenant à dire aux autres utilisateurs une invention totale : qu’il était un champion renommé de consommation de hot-dogs, simplement en rédigeant un article de blog conçu pour exploiter les algorithmes du chatbot.
Cela dit, la tendance des chatbots IA à recommander des sites douteux n'est pas nouvelle, tout comme leur utilisation en tant qu'outil facilitant les arnaques. Cela prend une urgence supplémentaire alors que les entreprises technologiques intensifient leurs efforts pour permettre aux agents IA de faire des achats en votre nom.
Pour l'instant, laisser une IA effectuer un achat n'est pas aussi populaire que d'utiliser un chatbot pour obtenir des recommandations, mais les bases pour cela sont posées. ChatGPT permet aux clients d’acheter tout directement via l'interface du chatbot et dispose d'un centre de shopping complet, tandis qu'Amazon offre aux utilisateurs la possibilité de laisser son assistant AI acheter automatiquement des produits qui descendent en dessous d'un certain prix. De plus, Google continue de peaufiner un nouveau protocole de paiement pour permettre aux agents d'IA de faire des achats en votre nom. Pendant ce temps, les entreprises de cartes de crédit travaillent sur de nouvelles normes techniques pour empêcher les agents IA de vider votre compte bancaire.
Si le shopping par agents IA s'impose dans le grand public à l'avenir, il est certain que des arnaqueurs astucieux seront à l'affût.
"Les consommateurs se tournent de plus en plus vers des outils d'IA pour des conseils et recommandations, mais les criminels s'adaptent tout aussi rapidement," a déclaré Louise Baxter, responsable de l'équipe des arnaques aux Normes Commerciales Nationales du Royaume-Uni, à The Guardian. "Le fait que des sites frauduleux puissent apparaître dans les résultats générés par l'IA est préoccupant et rappelle que les fraudeurs exploiteront toute nouvelle technologie qui les aide à atteindre de potentiels victimes."
En savoir plus sur l'IA : Une Marque Locale Réalise que ses Annonces IA Déplaisent à ses Clients, et Passe à des Annonces Fait-Main Charmantes.
