Avertissement sur l’utilisation de l’IA
Lancez-vous vers le futur en vous inscrivant à notre newsletter ! Vous découvrirez des innovations incontournables issues des dernières avancées en sciences et technologies.
Une expérience malheureuse avec ChatGPT
Récemment, Marcel Bucher, professeur en sciences des plantes à l’Université de Cologne, a connu une mésaventure avec ChatGPT. Il a perdu deux années de travail académique méticuleusement organisé, comprenant des demandes de subventions, des révisions d’articles, et des cours, suite à une désactivation de l’option de consentement des données. Cette décision visait à tester la continuité des fonctionnalités du modèle sans partage de ses données personnelles.
Malheureusement, à sa grande consternation, toutes ses discussions avec ChatGPT ont disparues instantanément sans aucun avertissement. Bucher souligne l’absence de possibilité de récupérer ses informations : « Pas de message d’erreur, pas d’option “annuler”. Juste une page vide. »
Réactions mitigées
Sa révélation a suscité une vague de réactions sur les réseaux sociaux. Nombreux sont ceux qui se sont moqués de lui, se demandant comment il avait pu passer deux ans sans réaliser des sauvegardes locales de son travail. D’autres ont exprimé leur colère, appelant l’université à prendre des sanctions pour sa dépendance excessive à l’égard de l’intelligence artificielle pour des tâches académiques. Certains, cependant, ont fait preuve de compassion, reconnaissant que tous les chercheurs peuvent faire preuve de naïveté vis-à-vis de ce genre d’erreurs.
Une mise en garde pour les utilisateurs
Bucher n’hésite pas à reconnaître que ChatGPT produit parfois des réponses qui semblent convaincantes mais qui peuvent être incorrectes. Il n’avait jamais voulu confondre la fiabilité de l’outil avec son exactitude factuelle. Cependant, il s’appuyait régulièrement sur ChatGPT Plus, à tel point qu’il le considérait comme un assistant quotidien.
L’utilisation de l’IA générative dans le milieu scientifique soulève de graves problématiques. De nombreux journaux scientifiques sont inondés d’articles de mauvaise qualité générés par l’IA, ce qui complique le processus d’évaluation par les pairs, comme l’indique un article de The Atlantic. Des revues frauduleuses émergent pour exploiter les travaux des chercheurs cherchant à publier des études peu fiables, tandis que des citations erronées continuent d’affecter sérieusement le domaine.
Clarifications d’OpenAI
Il est important de noter qu’il n’y a pas de preuves que Bucher ait tenté de vendre des travaux de moindre qualité à ses étudiants. Néanmoins, sa mésaventure devrait alerter d’autres utilisateurs. Dans sa chronique, il accuse OpenAI de vendre des abonnements au ChatGPT Plus sans offrir des mesures de protection adéquates pour éviter la perte de données.
OpenAI a par la suite expliqué qu’une fois supprimées, les discussions ne peuvent pas être récupérées. De plus, ils insistent sur le fait qu’ils fournissent un message de confirmation avant qu’un utilisateur ne supprime définitivement une conversation. La société recommande également que les utilisateurs conservent des sauvegardes personnelles de leurs travaux professionnels.
FAQ
Quels sont les risques liés à l’utilisation de l’IA dans le milieu académique ?
L’un des principaux risques est la dépendance excessive, qui peut mener à des pertes de données ou à la diffusion d’informations incorrectes.
Y a-t-il des mesures de sécurité lors de l’utilisation de ChatGPT ?
Bien que des avertissements soient fournis avant la suppression des données, il incombe toujours à l’utilisateur de s’assurer qu’il garde ses informations sauvegardées.
Comment les scientifiques peuvent-ils se protéger contre les erreurs causées par l’IA ?
Les chercheurs devraient toujours effectuer des revues approfondies de leur travail, combiner l’IA avec des méthodes traditionnelles, et conserver des copies de toutes leurs créations.
Pourquoi est-il important de faire des sauvegardes régulières ?
Les sauvegardes régulières garantissent que les efforts fournis dans le cadre de travaux académiques ou professionnels ne soient pas perdus, comme cela a été le cas pour certains utilisateurs d’IA.
Quelles sont les limitations actuelles de l’IA ?
L’IA actuelle souffre de problèmes de précision, de tendance à générer de fausses informations et d’un manque de compréhension contextuelle, ce qui peut nuire à la crédibilité des recherches académiques.