Intelligence Artificielle

Un Scientifique Présente Son Nouveau Projet Codé par les Vibrations, Quand Un Collègue Souligne Une Gaffe Terriblement Embarassante.

Un Scientifique Présente Son Nouveau Projet Codé par les Vibrations, Quand Un Collègue Souligne Une Gaffe Terriblement Embarassante.

Il existe de nombreuses raisons de prendre les résultats de l’IA générative avec prudence. Bien que ses réponses puissent sembler fiables, convaincantes et détaillées, elles peuvent pourtant être complètement erronées.

C’est une leçon que l’astrophysicien et communicateur scientifique **Paul Sutter** a apprise à ses dépens et qu’il évoque avec courage. Dans une publication intitulée Nautilus parue plus tôt ce mois-ci, Sutter a raconté une expérience particulièrement éprouvante qui rappelle un véritable cauchemar alimenté par le stress.

En février, lors d’une présentation devant des « collaborateurs », il a dévoilé une mise à jour de son algorithme conçu pour détecter des vides, c’est-à-dire des zones vides entre les galaxies.

Cette nouvelle version, a-t-il expliqué, était « dix fois plus rapide que l’ancienne », proposait une méthode « plus sophistiquée pour gérer les dures réalités des ensembles de données réels » et pouvait « traiter des enquêtes cent fois plus vastes ».

De plus, cette avancée était en partie le fruit de séances intensives où une IA avait été consultée pour écrire le code de mise à jour — ce qu’il a appelé « **vibe coding** », qu’il a qualifié d’« indispensable ».

Cependant, dix minutes après le début de sa présentation, un collaborateur a fait remarquer que quelque chose semblait **étrange**. En effet, Sutter a admis que la manière dont le nouvel algorithme gérait les bords des enquêtes était « **incorrecte** ».

Ce n’était pas une simple erreur typographique, ni l’absence d’une citation, a-t-il précisé. C’était subtil, mais profondément erroné, et tout ce qui en découlait était également faux, et il avait partagé tout cela devant des personnes qui lui faisaient confiance.

A lire :  Un Grand Nombre d'Utilisateurs de Windows Retrouve sa Méfiance après l'Adoption de l'IA par Microsoft

Cette anecdote embarrassante illustre parfaitement comment de nombreux utilisateurs d’outils d’IA prennent des risques sans le savoir, même dans les sphères les plus élevées du monde académique. Le secteur scientifique fait face à une avalanche de contenus mal documentés et souvent négligés générés par l’IA, ce qui impose aux chercheurs la responsabilité de tout ce qu’ils publient — y compris les hallucinations potentiellement compromettantes.

L’outil de codage AI que Sutter a utilisé « donnait l’impression de comprendre », bien qu’il ne soit « guère plus qu’un **prédicteur de mots sophistiqué** ».

« La fluidité d’un grand modèle linguistique n’est pas le fruit du hasard, et ce n’est pas non plus un mystère émergent », a écrit Sutter. « C’est un trait que nous avons cultivé, tout comme nous avons domestiqué les loups en chiens qui observent nos visages lorsque nous ouvrons le sachet de friandises. »

« Alors, comment utiliser un outil qui est parfois erroné mais toujours plaisant ? Comment faire confiance à l’IA ? » a-t-il conclu. « La réponse est simple : ne le faites pas. »

Sutter a comparé notre utilisation extensive des outils d’IA à l’alchimie, une pratique ancienne élaborée par ce qu’il appelle des « pré-scientifiques ».

« Nous sommes actuellement à l’ère de la pré-chimie de l’IA », a déclaré l’astrophysicien. « Le creuset est fermé, et tout comme les alchimistes, nous ne cesserons pas de l’utiliser. »

Pour parvenir à la vérité, dit-il, il est impératif de retracer minutieusement le raisonnement d’une IA et d’auditer chacun de ses résultats. Suite à sa maladresse en février, Sutter a promis de travailler « différemment désormais » et est prêt à « **douter** » immédiatement de tout ce qu’une IA lui présente.

A lire :  Microsoft Investit 1 Milliard de Dollars dans OpenAI, Fondé par Elon Musk

C’est un récit d’avertissement qui montre que même les penseurs les plus brillants peuvent être facilement séduits par les promesses de l’IA.

En conséquence, lorsque nous avons soumis son dernier article à l’outil de détection d’IA Pangram — qui n’est pas parfait — il a révélé que 56 % du texte semblait avoir été écrit par une IA.

Plus sur les hallucinations de l’IA : Les universitaires en crise maintenant qu’ils sont responsables des hallucinations de l’IA dans leurs articles de recherche.

FAQ

Qu’est-ce qu’une hallucination de l’IA ?

Une hallucination de l’IA se produit lorsqu’un modèle génère des informations qui semblent plausibles mais qui sont complètement fausses ou inventées. Ces erreurs peuvent avoir des conséquences graves, surtout dans des contextes académiques.

Comment fonctionne le “vibe coding” ?

Le “vibe coding” est une approche où les utilisateurs donnent des instructions vagues à une IA pour générer du code ou des solutions, se basant sur leur intuition plutôt que sur une spécification précise, ce qui peut parfois mener à des résultats erronés.

Quelles précautions devraient prendre les chercheurs avant de publier des résultats générés par l’IA ?

Les chercheurs doivent toujours vérifier, auditer et valider les résultats fournis par des outils d’IA. Une responsabilité accrue devrait être prise pour assurer l’exactitude de leurs publications.

Pourquoi Sutter compare-t-il l’IA à l’alchimie ?

Il fait ce parallèle pour illustrer que, tout comme l’alchimie était une science préliminaire pleine d’échecs, l’IA actuelle est encore en phase de développement. Nous exploitons sa puissance sans comprendre pleinement ses capacités et limitations.

A lire :  Les Systèmes d'IA Apprennent à Dialoguer avec les Humains

Comment l’IA influence-t-elle le monde académique aujourd’hui ?

L’IA transforme la recherche en automatisant des tâches, mais elle pose également des défis éthiques et de fiabilité, exigeant des chercheurs qu’ils soient plus vigilants et critiques envers les données générées.