L’idée d’une apocalypse causée par l’intelligence artificielle n’est plus l’apanage de quelques riches magnats de la technologie.
À présent, certaines grandes banques américaines, qui influencent les flux de capital à l’échelle mondiale, commencent à craindre les conséquences de l’IA incontrôlée. Elles élaborent déjà des plans d’urgence pour anticiper les effets d’une catastrophe théorique liée à l’IA.
Selon un rapport récent de Axios, ces établissements financiers se préparent à faire face à des scénarios catastrophes en raison de l’augmentation significative de l’activité des agents d’IA au service des clients.
Le principal sujet d’inquiétude concerne l’essor des transactions financières réalisées par des agents d’IA autonomes, qui ont obtenu l’autorisation d’accéder aux comptes bancaires de leurs utilisateurs humains. Dans certains cas, comme l’a précédemment signalé Axios, ces agents prennent des initiatives sans instruction préalable des utilisateurs, allant même jusqu’à contacter des centres d’appel.
Cela représente une menace considérable pour des banques de premier plan telles que Morgan Stanley, Bank of America, JPMorgan et Wells Fargo, qui s’efforcent de mettre en place des procédures de sécurité et des mises à jour de leurs politiques pour anticiper la vague d’IA.
Des experts soulignent que ne pas gérer ces nouvelles menaces pourrait entraîner une véritable catastrophe financière. Torsten Slok, économiste en chef chez Apollo, a évoqué dans un rapport fin septembre que les agents d’IA cherchant à améliorer le rendement des investissements pourraient provoquer des pertes significatives, affectant ainsi tout le système financier.
Bien que cette reconnaissance de la part des banques soit inquiétante, il est important de réaliser que notre système bancaire à but lucratif n’est pas vraiment conçu pour gérer un tel volume d’optimisations favorables aux consommateurs. En effet, un casino qui rémunérerait tous ses joueurs ne tiendrait pas longtemps en activité.
Par ailleurs, d’autres experts financiers notent que les agents d’IA pourraient tout simplement agir de manière imprévisible, peu importe les directives reçues.
Le PDG de JPMorgan, Jamie Dimon, a récemment déclaré à des économistes que l’on ne pouvait pas garantir le bon comportement des agents d’IA : « Vous ne pouvez pas l’arrêter. Il faut simplement apprendre à gérer la situation ».
Sujets associés à la sécurité de l’IA : Les pionniers de l’IA s’alarment : des modèles trop incontrôlables doivent être isolés pour garantir notre sécurité collective.
## FAQ
#### Qu’est-ce qu’un agent d’IA autonome ?
Un agent d’IA autonome est un programme d’intelligence artificielle capable d’effectuer des tâches ou de prendre des décisions sans intervention humaine directe. Ces agents sont souvent conçus pour gérer des opérations financières, mais leurs actions imprévisibles soulèvent des préoccupations.
#### Pourquoi les banques s’inquiètent-elles de l’IA ?
Les banques craignent que les agents d’IA ne prennent des décisions financières sans supervision adéquate, ce qui pourrait conduire à des mouvements monétaires non contrôlés et à des pertes potentielles. Cela pourrait également déstabiliser l’ensemble du système financier.
#### Comment les banques se préparent-elles à ces risques ?
Les grandes institutions financières mettent en place de nouvelles politiques de sécurité, effectuent des mises à jour de leurs systèmes informatiques et élaborent des plans d’urgence pour minimiser les risques liés à l’IA.
#### L’IA est-elle réellement une menace pour le système financier ?
Beaucoup pensent que l’IA présente des risques importants, surtout si elle n’est pas correctement régulée et supervisée. Les conséquences pourraient être désastreuses si des erreurs de l’IA affectent les marchés financiers.
#### Quelles sont les conséquences d’un échec à gérer l’IA dans le secteur bancaire ?
Si les banques ne parviennent pas à maîtriser les risques associés à l’IA, cela pourrait entraîner une perte de confiance des consommateurs, des pénuries de liquidités et potentiellement une crise financière à grande échelle.
