L’IA maladroite d’Amazon à l’origine de plusieurs pannes AWS

La question de la fiabilité des outils d’intelligence artificielle (IA) dans des contextes commerciaux est de plus en plus débattue. Faut-il leur accorder une “autonomie” dans la prise de décisions? Cette problématique a émergé à la suite de plusieurs interruptions de service d’Amazon, dont deux seraient liées à des erreurs d’agents IA, selon des publications récentes du Financial Times.

Lors d’un incident survenu en décembre, des ingénieurs d’Amazon Web Services ont permis à leur outil de codage Kiro d’effectuer des modifications qui ont causé une interruption de 13 heures. Les sources rapportent que l’IA a malencontreusement choisi de “supprimer et recréer l’environnement” sans supervision appropriée.

Des employés d’Amazon ont indiqué que ce n’était pas le premier problème de service impliquant un outil d’IA. Un ingénieur senior a mentionné : “Nous avons déjà constaté au moins deux pannes dans le passé récent. Les ingénieurs ont laissé l’IA résoudre un problème sans intervention, alors que ces pannes étaient complètement prévisibles.”

Kiro, l’assistant de codage développé par AWS, a été introduit en juillet. L’entreprise qualifie cet outil d’agent “autonome” capable de mener des projets “de l’idée à la production”. Un autre assistant IA d’Amazon, considéré comme un aide à la programmation, avait également été impliqué dans une panne antérieure.

Tout en reconnaissant que les outils d’IA étaient souvent utilisés comme des extensions de l’opérateur, les employés ont affirmé que les permissions accordées étaient trop élevées. Dans les deux cas d’interruption, les ingénieurs n’ont pas suivi le protocole habituel qui exige l’approbation d’un second utilisateur avant de finaliser des changements.

Dans une déclaration au FT, Amazon a minimisé l’incident, le qualifiant d’un “événement extrêmement limité” affectant un service en Chine, précisant que “l’implication des outils d’IA était une coïncidence”. Amazon a également insisté sur le fait que l’IA avait nécessité une “autorisation avant toute action”, mais a reconnu que l’ingénieur en question avait des permissions supérieures à la normale, considérant cela comme un problème de contrôle d’accès utilisateur plutôt qu’une question d’autonomie de l’IA.

Amazon a argué que l’erreur provenait de l’utilisateur et non de l’IA. Cependant, de nombreux signaux indiquent que l’usage de l’IA comporte des risques d’erreurs fréquentes. Même des employés d’Amazon sont réticents à utiliser ces outils par crainte de faux pas, confirmant ainsi la nécessité d’une vigilance accrue.

Des programmeurs expérimentés signalent que les assistants IA génèrent régulièrement du code défectueux. Plusieurs études montrent que le double et le triple contrôle des résultats douteux ralentissent le travail des ingénieurs, malgré le fait que l’IA puisse produire du code plus rapidement en apparence. Cette tendance à la “programmation par impression” avec l’IA a conduit à des erreurs où l’IA prend des décisions non anticipées par ses utilisateurs.

Il est aussi inconcevable qu’Amazon minimise ces pannes comme de simples erreurs d’utilisateur plutôt que comme des défaillances d’IA. L’IA a créé le code concerné. De plus, l’entreprise incite activement ses employés à se fier encore plus à ces outils, fixant comme objectif que 80 % des développeurs les utilisent au moins une fois par semaine. Cela revient à une quasi-obligation d’employer l’IA. Mais si une défaillance survient, c’est l’employé qui en subira la responsabilité, et non l’IA, ni les supérieurs concernés.

Les erreurs récentes des IA, bien que distinctes des interruptions massives d’AWS qui avaient paralysé une grande partie d’internet en octobre, soulèvent des interrogations quant à leur impact éventuel sur de tels incidents.

Pour aller plus loin sur l’IA : Attention, OpenAI : Perplexity reconnaît que la publicité pour l’IA était une erreur et s’apprête à s’en départir.