GROVER : Une avancée dans la détection des fausses nouvelles
Un groupe de scientifiques a développé un algorithme d’intelligence artificielle appelé GROVER, conçu pour lutter contre la propagation des fausses nouvelles créées par des intelligences artificielles. Cet outil a la capacité de concevoir des articles qui ressemblent à des news réels, reposant souvent sur un seul titre accrocheur.
Ce modèle est capable de produire des articles plus crédibles que ceux rédigés par des humains, selon des recherches publiées sur le serveur de prépublication ArXiv. GROVER a également la capacité de détecter ces fausses informations. Selon l’étude, les meilleurs outils de discrimination actuels parviennent à différencier les articles de fausses nouvelles générés par l’IA de ceux écrits par des humains avec une précision de 73 %. En revanche, l’algorithme de GROVER détecte ces contenus avec une précision de 92 %.
Ceci soulève des inquiétudes, car dans de mauvaises mains, GROVER pourrait être utilisé pour diffuser propagande et désinformation à grande échelle.
Une approche inédite
Les chercheurs de l’Université de Washington ont décidé de rendre GROVER accessible au public, contrairement à l’équipe d’OpenAI qui avait choisi de ne pas publier la version complète de son algorithme similaire, le GPT-2. GROVER peut scruter différents aspects d’un article de presse, tels que le titre, le nom de la publication, le nom de l’auteur et d’autres éléments pouvant indiquer une manipulation.
Un outil ambigu
Bien que cet outil présente des avantages pour la détection des fausses nouvelles, il peut également être utilisé pour en créer. Par exemple, les chercheurs ont démontré que GROVER est capable de rédiger, dans un style spécifique, des articles qui affirment incorrectement que les vaccins sont liés à l’autisme. Les personnes exposées à ces contenus ont trouvé les articles générés par GROVER plus convaincants que ceux rédigés par des humains.
En prenant exemple sur le style du New York Times, GROVER a produit un titre ainsi qu’un nom d’auteur et a élaboré un article simulant un lien entre vaccins et autisme, citant des scientifiques de l’Université de Californie à San Diego et des agences gouvernementales.
Exemple d’article
Voici un extrait plus spécifique d’un article fictif créé par GROVER :
“Les personnes vaccinées contre la rougeole ont plus de cinq fois de chances de développer l’autisme, rapportent des chercheurs…”
Dans un autre cas, les scientifiques ont montré que GROVER pourrait affiner son écriture pour correspondre au style d’une publication précise comme Wired. En alimentant GROVER avec un titre liant les vaccins à l’autisme, ils l’ont encouragé à produire un article dans le style de cette publication, révélant comment il pouvait ajuster et améliorer son contenu.
Risques associés
Les chercheurs reconnaissent que la mise à disposition de GROVER pourrait présenter des dangers, mais ils estiment qu’il représente tout de même une protection efficace contre la désinformation algorithmique, y compris celle qu’il produit lui-même.
FAQ
Quelles sont les fonctions fondamentales de GROVER ?
GROVER est adapté à la fois pour générer des fausses nouvelles et les détecter, offrant une double fonction pour analyser la fiabilité de l’information.
Comment GROVER accomplit-il cette tâche ?
L’algorithme analyse divers éléments tels que le titre, le contenu, et d’autres détails rédactionnels pour évaluer la crédibilité d’un article.
Quelles implications éthiques cela soulève-t-il ?
L’existence de tels outils ouvre un débat éthique concernant l’utilisation de l’IA en journalisme et la nécessité d’encadrer leur usage pour prévenir des abus.
Y a-t-il des garde-fous en place ?
Malgré les préoccupations, les chercheurs proposent un accès public à GROVER tout en insistant sur la nécessité de mettre en place des limites pour éviter les dérives.
Quel est l’avenir de la technologie de détection des fake news ?
Les progrès réalisés par des algorithmes comme GROVER pourraient être intégrés dans des outils plus larges destinés à améliorer l’intégrité de l’information sur Internet.
