Les entreprises réalisent avec difficulté que le déploiement rapide des outils d’intelligence artificielle (IA) — et l’imposition ou la forte incitation à leur utilisation par les employés — peuvent entraîner de graves conséquences.
Parmi les dernières entreprises à en faire l’expérience, **Amazon** se distingue, bien qu’il soit possible de se demander si elle apprend vraiment les bonnes leçons. Selon un article du Financial Times , le géant du commerce en ligne a convoqué un grand groupe d’ingénieurs lors d’une réunion portant sur les **pannes récentes** affectant son activité de vente en ligne, dont certaines sont liées aux outils de codage basés sur l’IA.
Dans une note de briefing pour la réunion, l’entreprise a décrit cette **tendance des incidents** comme étant marquée par un « **impact élevé** » et des changements « assistés par l’IA générationnelle ». Comme facteur contributif, elle a mentionné « **une utilisation nouvelle de l’IA générationnelle** pour laquelle les meilleures pratiques et les protections ne sont pas encore pleinement établies. »
Dans un courriel adressé aux employés, Dave Treadwell, vice-président senior des services de commerce électronique chez Amazon, a déclaré : « Comme vous le savez probablement, la disponibilité du site et de l’infrastructure associée n’a pas été satisfaisante récemment. »
Cette réunion fait suite à une **panne de près de six heures** survenue la semaine dernière, qui a affecté le site de shopping et l’application d’Amazon, empêchant les clients de passer des commandes. L’entreprise a imputé cet incident à un **déploiement de code logiciel raté**.
Au sein de sa division de **cloud computing**, Amazon Web Services, deux pannes distinctes ont été causées lorsque des ingénieurs ont laissé l’outil de codage IA de l’entreprise apporter des modifications désastreuses, comme l’a révélé un autre article du FT le mois dernier. Dans une de ces situations, cet outil a entièrement supprimé et recréé l’environnement de codage.
En réponse à ces précédents rapports, Amazon a présenté ces erreurs comme un problème relatif à ses **protocoles d’utilisation de l’IA** et au **contrôle d’accès des utilisateurs**, plutôt que comme une question d’autonomie de l’IA. L’entreprise semble donc vouloir maintenir sa position. Au lieu de se retirer de l’utilisation de l’IA, elle revendique le besoin d’établir des **règlementations renforcées** et un meilleur encadrement sur son utilisation.
Les ingénieurs juniors et intermédiaires devront désormais obtenir l’approbation des ingénieurs plus expérimentés pour toute modification assistée par l’IA, comme l’a mentionné Treadwell lors de la réunion. Son invitation à participer à cette réunion, qui est habituellement facultative, montre une volonté de renforcer la vigilance.
Il ne fait aucun doute que les outils d’IA, s’ils doivent être utilisés, doivent être **étroitement surveillés**, surtout dans les rôles de programmation. Comme avec tout modèle d’IA générative, ces outils de codage sont généralement sujets à des erreurs et peuvent parfois avoir des difficultés à suivre des instructions précises, ce qui peut les amener à prendre des mesures non souhaitées par l’utilisateur.
Cependant, alors qu’Amazon accentue sa volonté d’appliquer une **supervision humaine accrue**, l’entreprise a procédé à des licenciements massifs dans sa division cloud et projette de **licencier 30 000 employés** dans l’ensemble de sa main-d’œuvre. Par ailleurs, la direction encourage les programmeurs à intensifier l’utilisation des outils d’IA, avec des employés ayant précédemment signalé au FT que l’entreprise visait 80 % des développeurs devant utiliser l’IA pour des tâches de codage au moins une fois par semaine.
En résumé, on assiste à une augmentation du codage avec plus d’IA, tout en maintenant une **supervision humaine renforcée**, mais avec moins d’humains. Reste à voir comment cette approche se déroulera.
FAQ
Quels sont les risques associés à l’utilisation des outils d’IA dans les entreprises ?
Les risques incluent des erreurs de codage, des pertes de données, et une dépendance excessive aux outils, pouvant entraîner des pannes systémiques.
Quelles mesures les entreprises peuvent-elles prendre pour encadrer l’utilisation de l’IA ?
Elles peuvent instaurer des protocoles stricts pour la validation des changements, former les employés aux meilleures pratiques et établir des systèmes de contrôle d’accès.
Comment les employés réagissent-ils à une utilisation accrue de l’IA ?
Bien que certains employés voient des opportunités d’efficacité, d’autres s’inquiètent des licenciements potentiels et de la déshumanisation du travail.
Quel est l’avenir des outils d’IA dans le secteur technologique ?
L’avenir semble prometteur, mais dépendra fortement de l’adoption de régulations adéquates et d’une supervision appropriée pour équilibrer innovation et sécurité.
Quel impact les pannes ont-elles sur la réputation d’une entreprise comme Amazon ?
Les pannes peuvent nuire à la confiance des consommateurs, entraîner la perte de clients et affecter les investissements, à moins qu’elles ne soient rapidement résolues et correctement communiquées.