Problématique de l’IA dans la recherche académique
La création de contenu par intelligence artificielle dans les revues académiques soulève de sérieuses inquiétudes quant à la crédibilité de la communauté scientifique. Certains des cas problématiques sont faciles à identifier, mais personne ne s’attendait à un exemple aussi farfelu que celui récemment révélé.
Un exemple absurde
Récemment, un utilisateur de X (anciennement Twitter) a remarqué une étude publiée dans la revue Frontiers in Cell and Developmental Biology, qui prétend être évaluée par des pairs. Cette étude inclut des figures et des diagrammes manifestement générés par une IA. Et comment les décrire autrement ? Ils semblent être des exemples de nonsense visuel.
Prenons un instant pour examiner un des diagrammes présentés, illustrant un souris avec des attributs si exagérés qu’ils frisent l’absurde. La forme de l’animal est tellement grotesque qu’elle défie toute explication, présentant une vue dissection des testicules qu’on dirait presque aussi volumineux que la souris elle-même, non seulement visibles mais également sortant de son ventre de manière incongrue.
Un manque de rigueur
Il est essentiel de noter que les étiquettes sur le diagramme utilisent un jargon inventé, tel que “testtomcels” ou “retat”. Par contre, dans un moment de lucidité, l’une des étiquettes pointe vers le milieu de l’animal en indiquant « Rat », ce qui montre une tentative de clarté.
À la décharge des chercheurs, ils ne cherchaient pas à tromper le public, car ils ont clairement mentionné que les images de l’article provenaient de Midjourney. Cependant, ils semblent n’avoir fait que peu ou pas de modifications sur ces illustrations, ce qui nuit à leur propre crédibilité. La leçon à retenir ici : il est crucial de vérifier les contenus générés par une IA.
Une réputation douteuse
Certaines voix dans la communauté scientifique s’inquiètent, affirmant que Frontiers est une revue prédateur, ce qui signifie qu’elle prétend évaluer les articles tout en profitant de la nécessité des chercheurs de publier. Si cela est vrai, cela expliquerait pourquoi ces images déroutantes n’ont suscité aucune réaction alarmante ; apparemment, personne ne fait de véritable vérification.
Cependant, notons que ce jugement n’est pas unanime. La définition de ce qui constitue une revue prédateur fait l’objet de vifs débats. En réponse à cette controverse, l’éditeur a reconnu qu’il avait remarqué les critiques sur les réseaux sociaux.
Dans un message, Frontiers a remercié les lecteurs pour leur vigilance : « Lorsque nous faisons une erreur, la dynamique de la science ouverte permet aux retours de la communauté de nous aider à rectifier rapidement la situation ».
Les défis de l’IA en recherche
Indépendamment de la nature de la publication, il est indéniable que l’intelligence artificielle a fait son chemin dans le monde académique de manière préoccupante. Certaines études mentionnent ChatGPT comme co-auteur, tandis que d’autres réussissent à échapper à la révision par les pairs sans semblance de divulgation.
Celles qui sont finalement détectées affichent souvent des erreurs grossières, telles que des phrases typiques d’IA, comme « régénérer la réponse ». En fin de compte, le contenu généré par l’IA est généralement truffé d’erreurs factuelles. Cela constitue un frein majeur pour toute forme de publication, et plus encore pour les travaux scientifiques, qui nécessitent des connaissances techniques précises qu’un chatbot généraliste ne peut pas appliquer correctement.
FAQ
Quels sont les dangers d’utiliser l’IA dans les publications académiques ?
L’IA peut générer des résultats imprécis, ce qui peut compromettre la qualité et la fiabilité des travaux publiés.
Comment identifier une revue prédateur ?
Ces revues affichent souvent une promesse de révision par les pairs sans suivre des normes rigoureuses, cherchant à exploiter les chercheurs.
Existe-t-il des régulations concernant l’utilisation de l’IA dans la recherche ?
Actuellement, il n’existe pas de réglementations strictes, mais le débat autour de l’éthique de l’IA en science est en pleine évolution.
Quelles sont les implications de l’utilisation d’images générées par IA ?
Des images inappropriées peuvent nuire à la crédibilité des recherches et engendrer des dits de désinformation.
Comment les chercheurs peuvent-ils éviter les pièges de l’IA ?
Ils devraient être vigilants et toujours vérifier les résultats générés, en s’assurant que leur contenu respecte les standards académiques.
