Prolifération d’articles douteux dans les revues médicales
Récemment, un phénomène préoccupant a vu le jour dans le monde des revues scientifiques : un grand nombre d’articles de mauvaise qualité, générés par intelligence artificielle, envahissent les publications académiques. Cette situation représente un danger grandissant pour la communauté scientifique, menaçant la crédibilité et la valeur de recherches en santé qui pourraient sauver des vies. De plus en plus de papiers citent des revues fictives ou des études hallucinées, suscitant des craintes chez ceux qui doivent trier cette avalanche de nouvelles soumissions.
Un incident révélateur dans une revue prestigieuse
Une nouvelle affaire a particulièrement attiré l’attention : le New England Journal of Medicine (NEJM) a été contraint de se rétracter concernant un article rédigé par deux chercheurs basés à Pékin. Cet article décrivait un homme ayant développé des “moules bronchiques” à la suite d’un incendie de forêt. L’erreur a été découverte lorsqu’il s’est avéré que les auteurs avaient utilisé un outil d’IA pour modifier une photo incluse dans leur travail.
Analyse de l’image problématique
La photo en question présentait des tissus bronchiques pratiquement noirs et remplis de particules, ayant été prélevés cryogéniquement dans les poumons du patient. Selon un rapport de MedPage Today, cet homme de 87 ans avait été amené aux urgences après avoir inhalé une grande quantité de fumée, nécessitant le retrait de tissus bronchiques gravement obstrués par des polluants. L’alerte a été donnée par un détail frappant : une règle posée de manière aléatoire sur l’image, dont les chiffres suivis formaient une séquence illogique, typique des résultats d’un générateur d’images AI peu sophistiqué.
Excuses et dédouanement des auteurs
Les chercheurs ont qualifié cet incident de simple accident, affirmant qu’ils n’étaient pas informés des règlements concernant la manipulation d’images du journal. Dans leur note de rétraction, ils ont expliqué qu’ils avaient choisi de déplacer la règle pour des raisons esthétiques.
Réactions et points de vue
Ce malentendu soulève des questions importantes pour la communauté de recherche. Si un simple ajustement d’image peut mener à un scandale de cette ampleur, quelles autres manipulations, volontaires ou non, pourraient passer inaperçues ? Des utilisateurs sur les réseaux sociaux ont mis en doute la validité de l’ensemble de l’image, notant des incohérences dans la représentation des poumons du patient, ce qui laisse à penser que des modifications d’IA ont pu intervenir ailleurs.
Conformité avec les règles éthiques
En réponse à la controverse, le NEJM a rappelé aux auteurs l’importance de déclarer toute utilisation d’outils d’IA dans leurs travaux. Selon les politiques éditoriales de la revue, il est impératif de mentionner l’utilisation de modèles de langage, de chatbots, ou d’outils de création d’images dès la soumission. Les éditeurs insistent sur la nécessité de vérifier soigneusement tout contenu créé par l’IA pour éviter la diffusion d’informations incorrectes ou biaisées.
Les conséquences dans le milieu scientifique
Face à cette situation qui devient alarmante, les éditeurs de revues scientifiques sont de plus en plus vigilants. Une déclaration de la revue Science résume bien l’urgence : il est essentiel de publier des articles soigneusement examinés, soumis à l’évaluation de plusieurs experts, et de procéder à des rétractions et corrections lorsque des erreurs sont identifiées.
FAQ
Quelles sont les dangers des articles générés par IA dans la recherche scientifique ?
Les articles générés par IA peuvent contenir des informations erronées ou inventées, ce qui compromet la qualité et la fiabilité de la recherche scientifique.
Comment les revues scientifiques vérifient-elles la qualité des soumissions ?
Les revues appliquent des processus de révision par les pairs, où des experts évaluent la validité et la qualité des articles soumis avant leur publication.
Quelles mesures peuvent aider à éviter la manipulation d’images dans les publications ?
Les chercheurs sont encouragés à suivre des règlements stricts concernant la manipulation d’images et à utiliser des logiciels de détection d’images pour prévenir de potentielles manipulations frauduleuses.
Pourquoi est-il crucial de signaler l’utilisation d’outils d’IA dans la recherche ?
La transparence concernant l’utilisation d’outils d’IA garantit l’intégrité des données et permet de prévenir la diffusion d’informations incorrectes ou trompeuses.
Qu’est-ce qui distingue un article scientifique de qualité ?
Un article de qualité est basé sur des recherches rigoureuses, des méthodes clairement définies, des résultats vérifiables, et une discussion honnête des limites de l’étude.
