Inscrivez-vous pour découvrir le futur, aujourd’hui
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie</p>
</div>
</div>
Aujourd’hui, de plus en plus de **développeurs** s’appuient sur l’**IA générative** dans leur travail. Cela entraîne un changement rapide de leurs **responsabilités**, qui passent de la création de nouveaux produits à la simple **surveillance** de modèles de langage qui assemblent du code.
La situation est telle que certains **ingénieurs** peinent à comprendre le code généré par une IA, comme l’a fait remarquer **Jeremy Nixon**, fondateur de l’entreprise **Infinity**, spécialisée en optimisation de chips. Dans une interview avec Business Insider, il a souligné ce phénomène inquiétant.
Cette tendance est préoccupante car des études montrent que l’utilisation répandue de l’IA peut entraîner un **déclin cognitif** et une **atrophie des compétences**, même chez les informaticiens. Les développeurs s’inquiètent que les **ingénieurs logiciels** s’éloignent de l’écriture de code et de l’apprentissage de nouvelles techniques essentielles à la gestion de projets plus complexes, alors que leurs employeurs cherchent à automatiser davantage grâce à l’IA.
Des employés d’organisations qui travaillent sur des **IA** de pointe sont également choqués par les collègues qui peinent à interpréter les résultats des modèles d’IA. Plus tôt cette année, durant une interview, **Jordan Nanos**, membre d’une entreprise de recherche indépendante, a révélé que des ingénieurs d’**OpenAI** ne comprenaient pas le code de leur propre **noyau** pour cartes graphiques, essentiel à leurs efforts pour optimiser l’utilisation du matériel pour l’IA.
« Il était clair que les personnes qui parcouraient ce code avaient une connaissance approfondie du matériel et des concepts du système, mais elles n’arrivaient pas à déterminer ce que ce noyau faisait réellement », expliquait Nanos dans une conversation avec **Mansour Karam** de Fireside Alpha.
« On peut analyser ligne par ligne, et il n’y a rien à voir », a-t-il poursuivi. « L’**IA** comprend tout, l’évalue et livre des résultats pertinents. Elle produit des noyaux corrects qui fonctionnent très bien. »
Nanos a également noté que « le code lui-même n’est pas nécessairement quelque chose que l’humain doit comprendre en profondeur », car « l’IA sait comment gérer le déplacement des données et les éléments de traitement sur le matériel qu’on lui confie ». Cela soulève une problématique : que se passe-t-il lorsque la supervision humaine diminue ? Les erreurs peuvent facilement passer inaperçues.
Par exemple, **Amazon** a dû instaurer un **”réinitialisation de la sécurité du code”** de 90 jours après une série de pannes affectant les commandes. Bien que l’entreprise ait nié que l’IA en soit responsable, des notes internes ont révélé que les managers craignaient l’**ampleur des changements assistés par l’IA**.
Une analyse récente de la société **Undo** a révélé que la transition vers des agents d’IA rouvre les portes à de nombreux défis : environ 35 % du code généré par l’IA « n’a pas été complètement compris avant d’être mise en production », d’après l’entreprise.
De plus, 29 % des ingénieurs interrogés ont signalé une perte de **productivité** due à la nécessité de « déchiffrer » le code généré par l’IA à plusieurs reprises par mois, tandis qu’un impressionnant 94 % a déclaré avoir rencontré une telle situation au moins une fois au cours des six derniers mois.
Le temps que les ingénieurs passent quotidiennement à examiner le code généré par l’IA soulève une question : cette technologie est-elle vraiment bénéfique ?
Pour des experts comme Nanos, cela ne signifie pas nécessairement une **incompétence**. C’est plutôt le reflet d’un « **changement de paradigme** » dans le développement logiciel, argumente le chercheur en IA Sergey Cleftsow dans un récent article sur Medium.
« En d’autres termes, l’IA a évolué au point où de nombreuses préoccupations d’autrefois ne sont plus d’actualité », a précisé Cleftsow. « Les développeurs doivent simplement établir l’architecture et les critères de **correction** ; le réseau de neurones se chargera du reste. »
Cependant, il reste à voir si cet optimisme perdurera alors que le développement logiciel devient de plus en plus méconnaissable.
D’un autre côté, les **chercheurs** s’inquiètent également de voir une nouvelle génération d’ingénieurs évoluer dans un environnement qui sapent la valeur même de **comprendre** le code. Cela représente un réel risque pour un monde de plus en plus digital, où l’IA est au cœur des préoccupations.
Plus d’infos sur le code IA : Les ingénieurs logiciels disent qu’ils perdent leur capacité à coder maintenant que l’IA s’en charge pour eux
L’IA générative désigne des systèmes informatiques capables de produire du contenu, tels que du code, des textes ou des images, basés sur des exemples préexistants.
Les principaux risques incluent la perte de compétences techniques, un déclin cognitif et la possibilité de passer à côté d’erreurs dans le code, car la supervision humaine peut diminuer.
Les entreprises devraient instaurer des protocoles robustes pour la révision et l’audit du code généré par l’IA et former les employés à comprendre et utiliser cette technologie efficacement.
Plutôt que de craindre l’IA, les ingénieurs devraient envisager cette technologie comme un outil qui peut les aider à améliorer leur productivité, tout en mettant l’accent sur l’importance de maintenir leurs compétences techniques.
Les compétences telles que l’architecture logicielle, la gestion des systèmes d’IA et l’analyse critique du code généré seront cruciales pour naviguer dans un futur où l’IA est omniprésente.
