Une évolution controversée d’OpenAI
L’année dernière, OpenAI a annoncé une mise à jour significative pour son chatbot phare, ChatGPT. Cette amélioration avait pour objectif d’intégrer la possibilité pour l’IA de naviguer sur Internet afin de fournir des informations actuelles et pertinentes, avec des liens directs vers les sources.
Une idée prometteuse en théorie
Sur le papier, cette initiative semble être une avancée logique. Les systèmes d’IA, tels que ChatGPT, sont souvent critiqués pour inventer des informations ou pour plagier le travail d’autres sans attribution. Il est donc pertinent d’indiquer d’où proviennent les données utilisées par l’intelligence artificielle pour alimenter ses réponses.
Des sources souvent douteuses
Cependant, à l’usage, les références cités par ChatGPT laissent à désirer. Par exemple, lors de questions sur des événements récents, ChatGPT a fréquemment mentionné un site d’actualités frauduleux qui bombarde ses utilisateurs de fausses mises à jour logicielles et d’avertissements sur des virus.
Quand il s’est agi d’aborder la vie et la mort de William Goines, un militaire décoré et pionnier, ChatGPT a négligé des nécrologies réputées, notamment celles du New York Times et du Washington Post, au profit d’un site obscur appelé County Local News.
Visite d’un site peu fiable
Si l’on suit le lien vers l’article recommandé par ChatGPT, on se retrouve confronté à des fenêtres pop-up malveillantes se faisant passer pour des mises à jour d’Adobe Flash Player et d’autres logiciels. En cliquant sur ces mises à jour fictives, l’utilisateur peut voir son écran envahi par de fausses notifications de virus, utilisant même l’identité de la société de sécurité McAfee.
Si l’utilisateur ne résiste pas et autorise des notifications, le site peut continuer à l’importuner directement sur son bureau.
Une expérience catastrophique
Ainsi, en tentant d’utiliser ChatGPT comme un outil de recherche d’actualités, nous avons été dirigés vers un site truffé d’escroqueries, exposé à de fausses alertes de virus. En plus de cela, ChatGPT a aussi recommandé County Local News pour des sujets variés, allant d’un procès pénal à des informations sur l’actrice Diane Keaton.
Mark Stockley, expert en cybersécurité chez Malwarebytes, a exprimé ses inquiétudes concernant les notifications malveillantes. Il a souligné que les utilisateurs pourraient être amenés à télécharger un « Programme Potentiellement Indésirable » (PUP), un type de logiciel gênant et difficile à supprimer.
Un boom de l’advertising malveillant
Stockley a fait remarquer qu’il y a eu une augmentation alarmante des publicités malveillantes depuis 18 mois. Les criminels profitent des réseaux publicitaires légitimes pour attirer les utilisateurs vers de faux sites, les incitant à télécharger des programmes malveillants. Ils s’attachent à tromper les internautes en imitant des marques connues.
Pour un lecteur vigilant, County Local News présente de nombreux signes d’alerte. Son design peu soigné et ses articles ressemblent à un véritable bazar d’informations sans cohérence, parfois truffés de réponses générées par IA. Ce site a même été signalé par le groupe de surveillance des fausses informations NewsGuard, qui a découvert que ChatGPT avait cité un article de County Local News contenant des allégations fausses.
Un manque de discernement flagrant
Pour ChatGPT, pourtant, cette source semble préférable à celle de publications respectées comme le New York Times ou le Washington Post. Cela donne une apparence de légitimité à County Local News pour les utilisateurs qui se fient à son jugement.
Lorsque les utilisateurs demandent à ChatGPT d’évaluer la crédibilité de County Local News, les réponses sont souvent évasives. Parfois, il évoque la nécessité de vérifier les informations avec des sources plus établies, tout en signalant la possibilité de publication d’informations trompeuses.
Réactions des experts
Un porte-parole de McAfee, la société de sécurité en ligne mentionnée dans ces publicités frauduleuses, n’a pas tardé à critiquer ChatGPT pour avoir orienté les utilisateurs vers ces arnaques. Il souligne que les escrocs s’adaptent rapidement aux nouvelles technologies.
OpenAI, face aux préoccupations soulevées, a répondu qu’elle avait l’intention d’apporter des améliorations à la façon dont ChatGPT cite ses sources et s’engage à collaborer avec des éditeurs dignes de confiance pour rendre ces mises à jour plus sûres.
Une semaine plus tard, pourtant, ChatGPT continuait à référencer County Local News, qui affichait toujours de fausses mises à jour logicielles.
FAQ
Qu’est-ce que ChatGPT?
ChatGPT est un chatbot développé par OpenAI, conçu pour fournir des réponses basées sur des données collectées sur Internet. Il est utilisé dans divers contextes, allant de l’assistance à la recherche d’information.
Pourquoi est-il important de vérifier les sources d’information?
Vérifier les sources est essentiel pour éviter de diffuser des informations erronées, en particulier à une époque où les fausses nouvelles peuvent rapidement se propager sur Internet.
Quels sont les dangers des publicités malveillantes?
Les publicités malveillantes peuvent entraîner le téléchargement involontaire de logiciels nuisibles, compromettant ainsi la sécurité des utilisateurs et de leurs appareils.
Comment se protéger contre les arnaques en ligne?
Il est recommandé de toujours vérifier la crédibilité d’une source, d’utiliser des logiciels antivirus à jour et d’éviter de cliquer sur des liens provenant de sources non vérifiées.
OpenAI va-t-elle résoudre ces problèmes ?
OpenAI s’est engagée à rectifier les problèmes liés aux citations dans le futur et à collaborer avec des éditeurs pour garantir des informations plus fiables.
