Constatation d’un phénomène inquiétant dans la recherche académique
Des noms tels que “Elena Vasquez” et “Marcus Chen” apparaissent de plus en plus dans des articles académiques, des thrillers et des biographies d’experts. Cela pousse les lecteurs à se questionner sur leur légitimité. Des études récentes révèlent que ces noms pourraient ne pas être de véritables individus, mais plutôt des empreintes laissées par des contenus générés par l’intelligence artificielle (IA).
Comprendre le problème
Une étude préliminaire réalisée par Samsung et l’Université de Varsovie, citée par 404 Media, met en lumière que certains modèles de langage développés par l’IA tendent à inventer systématiquement les mêmes identités pour des rôles particuliers. Ces personnalités fictives apparaissent déjà dans des bases de données académiques et dans les résultats de recherche.
Dans ce document, intitulé “The Ghost Couple: Correlated LLM Name Priors and Their Haunting of the Web and Academic Publishing”, les chercheurs affirment que ce phénomène va au-delà de simples répétitions de noms. Ils ont identifié ce qu’ils appellent des “ensembles de personnages corrélés”, où des identités inventées sont générées en même temps que d’autres, également fictives.
Cette dynamique aide à expliquer pourquoi les noms, tels qu’Elena Vasquez et Marcus Chen, émergent si souvent dans divers articles et publications. De plus, les chercheurs notent que certains modèles produisent fréquemment d’autres noms inventés, tels que Elena Amara Okafor, Aris Thorne, Lena Petrova et Elara Voss.
Michał Brzozowski, l’un des auteurs principaux de l’étude, a révélé que la recherche de ces noms fictifs mettait à jour d’autres prétendus experts qui, en réalité, n’existent pas. L’étude a également recensé 1 655 enregistrements portant une paternité fantôme sur Zenodo, un dépôt géré par CERN qui attribue des identifiants DOI (Digital Object Identifiers) authentiques.
Les chercheurs soulignent que “le paysage académique est en train de se faire discrètement hanter” par ces fausses identités.
Les implications plus larges
Les outils de recherche académique et les plateformes de publication sont souvent perçus comme des sources de confiance. À partir du moment où des articles générés par l’IA obtiennent de vrais DOI et apparaissent dans des bases de données tels que Google Scholar, Semantic Scholar ou ResearchGate, leur légitimité peut être confondue avec celle d’expertises réelles.
Ce phénomène ne se limite pas au milieu académique. Par exemple, Research Gold a un temps référencé Elena Vasquez comme fondatrice avant de revenir sur cette mention. Une annonce fausse concernant la mort d’Alex Pretti citait un “directeur exécutif Dr. Elena Vasquez” qui, selon 404 Media, n’existait pas.
Réponses possibles à cette problématique
Face à ce phénomène, certaines institutions commencent à durcir leurs critères de vérification. Des revues ont déjà publié des textes générés par l’IA, et il a été constaté que la révision par les pairs a également été influencée par ces technologies. D’après 404 Media, arXiv pourrait interdire aux auteurs de publier pendant un an s’ils sont surpris à soumettre des travaux générés par l’IA.
Les chercheurs envisagent que la répétition de faux noms pourrait servir de moyen de détection. Si certains modèles de langage continuent de privilégier des noms particuliers, cela pourrait indiquer qu’un article a été généré automatiquement.
Cependant, Brzozowski prévient que ce signal distinct pourrait s’atténuer au fur et à mesure que le contenu généré par l’IA se répand sur le web et se transforme en matériel d’apprentissage pour d’autres systèmes futurs.
La simple existence d’un format soigné, d’un vocabulaire académique ou même d’un DOI ne garantit pas l’authenticité d’un texte. Les affiliations des auteurs, leur historique de publication et la capacité à vérifier une revue ou une institution pourraient aider à différencier un véritable travail académique d’un contenu créé par l’IA.
Comme l’explique l’étude : “Elena Vasquez et Marcus Chen se sont manifestés en tant qu’experts en volcanologie, astronautes, protagonistes de thrillers, animateurs de podcasts et co-auteurs académiques dans des centaines de documents générés par l’IA, sans jamais avoir existé.”
FAQ
Quels types d’identités fictives l’IA génère-t-elle régulièrement ?
L’IA a tendance à créer des personnages avec des noms et des spécialisations variés, comme des experts en science, des auteurs de thrillers, et des professionnels divers, tous fictifs.
Quelle est la réaction des revues académiques face à ce problème ?
Certaines revues et institutions d’enseignement supérieur mettent en place des protocoles plus stricts pour vérifier l’authenticité des auteurs et des travaux soumis.
Les chercheurs peuvent-ils se fier aux publications contenant ces noms fictifs ?
Il est recommandé d’examiner de près toute publication contenant des noms suspectés d’être issus de l’IA, en vérifiant notamment les informations sur l’auteur et le contexte de publication.
Comment les auteurs de contenu peuvent-ils éviter d’être associés à ce phénomène ?
Les auteurs doivent s’assurer que leurs travaux sont authentiques et bien référencés, et veiller à fournir des informations vérifiables sur leur identité professionnelle.
Quelle est l’importance de la vigilance face à ces faux identités dans la recherche ?
La vigilance est cruciale pour préserver la crédibilité de la recherche académique et pour éviter la diffusion de désinformation dans le milieu scientifique.
