Introduction au scandale de la désinformation
Un DJ irlandais et animateur de talk-show a intenté une action en justice contre Microsoft après avoir découvert qu’un article de presse élaboré par une intelligence artificielle (IA) l’accusait de comportement sexuel inapproprié. Cet incident a été mis au jour par une enquête du New York Times sur un fournisseur de fausses informations alimenté par l’IA.
Les détails de l’affaire
L’article en question, diffusé par le service de nouvelles BNN Breaking, prétendait que Dave Fanning, un diffuseur irlandais, devait prochainement faire face à un procès pour des accusations de comportement inapproprié. Non seulement cet article contenait une photo de la personne concernée, mais il a aussi été repris par MSN, le site d’actualités de Microsoft. Le contenu est resté exposé sur la page d’accueil de MSN pendant plusieurs heures avant d’être retiré, causant ainsi un préjudice à la réputation de Fanning.
Les conséquences de la fausse information
Fanning a partagé son expérience avec le New York Times, soulignant l’ampleur des réactions qu’il a reçues suite à cette fausse publication. Cela illustre bien les dangers réels que les outils d’IA peuvent engendrer lorsque ceux-ci impliquent des individus dans des informations erronées, tout en mêlant réalité et fiction de manière convaincante. D’autant plus que cet article a été publié sur une plateforme conçue pour ressembler à un site d’information crédible.
Les antécédents de MSN
Les problèmes rencontrés par MSN remontent à quelques années. En 2020, la société a licencié de nombreux journalistes, remplaçant leurs postes par des outils d’IA chargés de curation des nouvelles. Depuis, MSN a eu de plus en plus de difficultés à contrôler la diffusion de fausses informations, ce qui a été largement documenté. En 2022, des rapports indiquaient que des rumeurs sur Elon Musk et même des histoires fantastiques comme celles de Bigfoot étaient relayées par leur algorithme.
Les origines de BNN
BNN a été fondé par un entrepreneur technologique nommé Gurbaksh Chahal, également accusé d’abus. Alors qu’il prétendait révolutionner le journalisme, il a en réalité orchestré une déformation des pratiques journalistiques. Les employés, souvent mal payés, étaient contraints de soumettre des articles d’autres médias à des outils d’IA pour produire rapidement des versions paraphrasées. Cela a abouti à une production massive d’articles, la plupart n’étant jamais vérifiés par un être humain.
La portée de BNN dans les médias
Malheureusement, malgré son modèle problématique, BNN a réussi à se faire une place au sein des réseaux d’actualités, avec des articles parfois cités par des sources réputées comme The Washington Post et Politico. Alors que MSN continuait de profiter des contenus de BNN, Fanning, lui, perdait le contrôle de son image publique à cause de l’usage abusif de ces informations.
Situation actuelle et réaction de Microsoft
Actuellement, l’affaire est toujours en cours. Le New York Times a signalé que Microsoft, un des principaux acteurs de la course à l’IA dans la Silicon Valley, n’a pas encore fait de commentaire sur ce procès. Par ailleurs, BNN a disparu pour faire place à BNNGPT, un nouvel outil de recherche alimenté par l’IA, promettant de redéfinir l’interaction avec l’information, mais ses concepteurs semblent avoir reproduit les mêmes erreurs.
FAQ
Qu’est-ce que BNN ?
BNN, ou “BNN Breaking News”, était un site de nouvelles controversé, alimenté par l’IA, qui produisait rapidement des articles souvent non vérifiés.
Quels sont les risques associés à l’utilisation d’IA dans le journalisme ?
L’utilisation d’IA dans le journalisme peut créer des informations erronées et nuire à des personnes réelles en mêlant fait et fiction, comme le montre l’affaire Fanning.
Quelles mesures les médias prennent-ils pour lutter contre la désinformation ?
De nombreux médias ont commencé à renforcer leurs équipes de vérification de faits et à mettre en place des protocoles pour identifier et corriger les informations erronées diffusées par l’IA.
Comment Microsoft est-il impliqué dans ce scandale ?
Microsoft a été impliqué via MSN, qui a agrégé et publié l’article fabriqué par l’IA, causant un préjudice à la réputation de Fanning.
Quels autres exemples de fausse information alimentée par l’IA existent ?
Il y a eu des cas où des informations fabriquées par l’IA ont concerné des célébrités et des événements importants, soulignant la nécessité de vigilance dans la diffusion des nouvelles.