L’IA Écrit du Code au-delà de la Compréhension Humaine

Aujourd’hui, de plus en plus de **développeurs** s’appuient sur l’**IA générative** dans leur travail. Cela entraîne un changement rapide de leurs **responsabilités**, qui passent de la création de nouveaux produits à la simple **surveillance** de modèles de langage qui assemblent du code.

La situation est telle que certains **ingénieurs** peinent à comprendre le code généré par une IA, comme l’a fait remarquer **Jeremy Nixon**, fondateur de l’entreprise **Infinity**, spécialisée en optimisation de chips. Dans une interview avec Business Insider, il a souligné ce phénomène inquiétant.

Cette tendance est préoccupante car des études montrent que l’utilisation répandue de l’IA peut entraîner un **déclin cognitif** et une **atrophie des compétences**, même chez les informaticiens. Les développeurs s’inquiètent que les **ingénieurs logiciels** s’éloignent de l’écriture de code et de l’apprentissage de nouvelles techniques essentielles à la gestion de projets plus complexes, alors que leurs employeurs cherchent à automatiser davantage grâce à l’IA.

Des employés d’organisations qui travaillent sur des **IA** de pointe sont également choqués par les collègues qui peinent à interpréter les résultats des modèles d’IA. Plus tôt cette année, durant une interview, **Jordan Nanos**, membre d’une entreprise de recherche indépendante, a révélé que des ingénieurs d’**OpenAI** ne comprenaient pas le code de leur propre **noyau** pour cartes graphiques, essentiel à leurs efforts pour optimiser l’utilisation du matériel pour l’IA.

« Il était clair que les personnes qui parcouraient ce code avaient une connaissance approfondie du matériel et des concepts du système, mais elles n’arrivaient pas à déterminer ce que ce noyau faisait réellement », expliquait Nanos dans une conversation avec **Mansour Karam** de Fireside Alpha.

« On peut analyser ligne par ligne, et il n’y a rien à voir », a-t-il poursuivi. « L’**IA** comprend tout, l’évalue et livre des résultats pertinents. Elle produit des noyaux corrects qui fonctionnent très bien. »

Nanos a également noté que « le code lui-même n’est pas nécessairement quelque chose que l’humain doit comprendre en profondeur », car « l’IA sait comment gérer le déplacement des données et les éléments de traitement sur le matériel qu’on lui confie ». Cela soulève une problématique : que se passe-t-il lorsque la supervision humaine diminue ? Les erreurs peuvent facilement passer inaperçues.

Par exemple, **Amazon** a dû instaurer un **”réinitialisation de la sécurité du code”** de 90 jours après une série de pannes affectant les commandes. Bien que l’entreprise ait nié que l’IA en soit responsable, des notes internes ont révélé que les managers craignaient l’**ampleur des changements assistés par l’IA**.

Une analyse récente de la société **Undo** a révélé que la transition vers des agents d’IA rouvre les portes à de nombreux défis : environ 35 % du code généré par l’IA « n’a pas été complètement compris avant d’être mise en production », d’après l’entreprise.

De plus, 29 % des ingénieurs interrogés ont signalé une perte de **productivité** due à la nécessité de « déchiffrer » le code généré par l’IA à plusieurs reprises par mois, tandis qu’un impressionnant 94 % a déclaré avoir rencontré une telle situation au moins une fois au cours des six derniers mois.

Le temps que les ingénieurs passent quotidiennement à examiner le code généré par l’IA soulève une question : cette technologie est-elle vraiment bénéfique ?

Pour des experts comme Nanos, cela ne signifie pas nécessairement une **incompétence**. C’est plutôt le reflet d’un « **changement de paradigme** » dans le développement logiciel, argumente le chercheur en IA Sergey Cleftsow dans un récent article sur Medium.

« En d’autres termes, l’IA a évolué au point où de nombreuses préoccupations d’autrefois ne sont plus d’actualité », a précisé Cleftsow. « Les développeurs doivent simplement établir l’architecture et les critères de **correction** ; le réseau de neurones se chargera du reste. »

Cependant, il reste à voir si cet optimisme perdurera alors que le développement logiciel devient de plus en plus méconnaissable.

D’un autre côté, les **chercheurs** s’inquiètent également de voir une nouvelle génération d’ingénieurs évoluer dans un environnement qui sapent la valeur même de **comprendre** le code. Cela représente un réel risque pour un monde de plus en plus digital, où l’IA est au cœur des préoccupations.

Plus d’infos sur le code IA : Les ingénieurs logiciels disent qu’ils perdent leur capacité à coder maintenant que l’IA s’en charge pour eux