En 2026, un grand nombre de chercheurs continuent de rejeter l’utilisation de l’intelligence artificielle pour rédiger leurs publications scientifiques. Bien que certains exploitent cette technologie pour des tâches comme la recherche d’articles, l’édition de textes ou le formatage des références, ils se retrouvent sous pression pour vérifier chaque affirmation. Cela est dû au risque que l’IA introduise des erreurs ou des informations inexactes dans leurs travaux.
La Controverse de l’IA dans la Recherche Scientifique
Une minorité d’universitaires, cependant, soutient que l’IA peut être utilisée pour générer des recherches originales sans qu’ils aient à craindre que des informations erronées se retrouvent dans le produit final.
Récemment, le dépôt de recherche open-source arXiv a pris des mesures strictes : les auteurs dont les travaux comprennent des références fictives pourraient être bannis de la plateforme pour une durée allant jusqu’à un an. Ce choix est motivé par une nécessité évidente de confiance, selon Thomas Dietterich, président de la section informatique d’arXiv. En effet, il explique que si une soumission démontre que les auteurs n’ont pas vérifié les résultats générés par les modèles d’IA, cela compromet la crédibilité de l’ensemble de l’article.
Les Réactions et Critiques
Suite à cette annonce sur X (anciennement Twitter), de nombreux chercheurs ont fortement critiqué la décision d’arXiv. James Miller, professeur d’économie à Smith College, a exprimé son incrédulité, se demandant s’il était réaliste d’attendre des auteurs qu’ils vérifient chaque citation, notamment celles dans des langues ou des spécialités qu’ils ne maîtrisent pas.
Luca Ambrogioni, professeur assistant en IA à l’Institut Donders, a également réagi en affirmant que les erreurs peuvent se glisser dans n’importe quel travail, indépendamment des outils utilisés. Selon lui, maintenir un niveau d’exigence excessif pour des erreurs isolées serait déraisonnable.
Ambrogioni va même jusqu’à dire que la suspension due aux erreurs de citations pourrait se traduire par un bannissement de facto pour les chercheurs, impactant ainsi leur capacité à publier dans le futur.
Neal Amin, un ancien neuroscientifique devenu entrepreneur dans le secteur de la biotechnologie, a résumé la situation en déclarant que cela constitue une réaction excessive et une forme de contrôle inapproprié sur les chercheurs.
Plus sur les hallucinations de l’IA :
Des études récentes soulignent que les systèmes d’IA utilisés par les médecins peuvent générer des problèmes médicaux fictifs pendant les consultations avec les patients. Cela démontre les risques potentiels liés à l’intégration de l’IA dans des domaines critiques comme la santé.
FAQ
H4 : Pourquoi certains chercheurs refusent-ils d’utiliser l’IA ?
De nombreux chercheurs considèrent que l’IA peut introduire des erreurs dans leurs travaux, compromettant ainsi l’intégrité de la recherche.
H4 : Qu’est-ce qu’une “référence hallucinée” ?
Une référence hallucinée est une citation qui n’existe pas réellement ou qui est faussement attribuée, ce qui peut induire en erreur les lecteurs sur la validité des informations présentées.
H4 : Quel est l’impact de la décision d’arXiv sur la recherche ?
La décision d’arXiv de bannir les auteurs pour des références fictives vise à préserver la fiabilité de la recherche, mais elle suscite également des craintes concernant la liberté académique des chercheurs.
H4 : Comment les universités réagissent-elles à ces nouvelles règles ?
Les universités et les organismes de recherche évaluent actuellement comment ces politiques peuvent influencer la publication et l’usage responsable de l’IA dans la recherche.
H4 : L’IA peut-elle réellement aider à la recherche scientifique ?
Oui, l’IA peut être un outil puissant pour traiter de grandes quantités de données et pour effectuer des tâches répétitives, mais son utilisation nécessite prudence et vigilance pour éviter les erreurs.
Cela peut vous intéresser
