Les Réseaux Que Nous Tissons
Il semble que le président de la SEC, Gary Gensler, ait nourri depuis un certain temps des préoccupations sérieuses concernant l’IA. Ces inquiétudes sont si profondes qu’elles pourraient menacer l’économie elle-même.
Selon des informations rapportées par Axios, en 2020, alors qu’il était encore professeur au MIT, Gensler a rédigé un document qui soulignait les dangers de l’intégration d’algorithmes de deep learning trop similaires dans nos systèmes économiques. Il prévoyait que cela pourrait mener à un effondrement de crise.
Coécrit avec l’ingénieure et informaticienne Lily Bailey, ce document avertit que l’adoption généralisée de l’IA risque d’affaiblir notre économie, la rendant vulnérable à des événements catastrophiques, tels que des ventes massives induites par des prévisions faites par des machines. Nos systèmes de régulation financiers actuels, conçus pour des technologies d’analyse humaines d’autrefois, ne seraient pas en mesure de gérer cette évolution rapide, laissant ainsi des lacunes réglementaires importantes.
Les auteurs affirment que lorsque l’IA passe à une phase d’adoption massive, elle peut entraîner des fragilités systémiques et des risques économiques à grande échelle. Une affirmation qui mérite notre pleine attention.
Hégémonie des Données
Le document aborde également les dangers liés à l’hégémonie des modèles. Gensler et Bailey mettent en lumière le risque de “congestion” et de “regroupement des données”. En d’autres termes, lorsque des modèles sont entraînés sur des ensembles de données semblables, ils ont tendance à produire des prévisions très corrélées, agissant ainsi à l’unisson.
Cela veut dire que si deux modèles sont formés sur les mêmes données, il y a de fortes chances qu’ils parviennent aux mêmes conclusions. Si un nombre trop élevé de modèles avancés arrivent à des conclusions identiques et presque simultanément, cela pourrait avoir des répercussions néfastes sur les marchés.
Mais les mises en garde du document vont au-delà du simple constat. Il traite aussi des biais présents dans les systèmes d’IA. Même avec les meilleures protections en place, ces systèmes intègrent des préjugés sociaux humains. Reconstruire nos systèmes financiers sur des programmes prédictifs déjà biaisés risque d’avoir des conséquences désastreuses pour les groupes déjà marginalisés.
Bien que ces révélations soient préoccupantes, il est réconfortant de voir que la personne qui s’interrogeait sur ces implications vastement importantes de l’IA en 2020 est aujourd’hui à la tête de l’autorité de régulation financière américaine. Entre appels à des mesures de répression à Wall Street et discours très ciblés sur les dangers de l’IA, il semble qu’il prenne au sérieux les risques économiques associés à ces technologies.
Gensler a récemment déclaré que cette technologie sera au cœur des futures crises financières, en raison des dynamiques de mise à l’échelle et de connexion qu’elle engendre. Toutefois, il reste à voir si des actions réglementaires significatives en découleront.
FAQ
Qu’est-ce qui rend l’IA dangereuse pour l’économie ?
L’IA peut provoquer des décisions cohérentes et synchronisées parmi des modèles similaires, entraînant des crises de vente ou des effondrements de marché.
Comment les biais dans l’IA affectent-ils les groupes marginalisés ?
Les biais dans les systèmes d’IA peuvent renforcer les inégalités économiques, en créant des prévisions qui nuisent aux populations déjà vulnérables.
Quelles mesures régulatrices pourraient être mises en place ?
Les régulateurs pourraient développer de nouvelles normes pour s’assurer que les modèles d’IA ne reposent pas sur données biaisées et pour améliorer la transparence des algorithmes utilisés.
Quel rôle joue Gary Gensler dans la régulation de l’IA ?
Gary Gensler, en tant que président de la SEC, se concentre sur les implications économiques de l’IA et son potentiel à causer des crises financières.
Pourquoi est-il important d’examiner l’IA dès maintenant ?
L’adoption rapide de l’IA call for attention pour éviter de potentielles crises qui pourraient résulter de lacunes réglementaires face à ces nouvelles technologies.
