<p>
<figcaption class="article-featured-image-caption">
<em>Image : Eugene Gologursky / Getty pour The New York Times / Futurism</em> </figcaption>
</p>Les Nouvelles Technologies d’Intelligence Artificielle
Dans le paysage technologique actuel, les agents IA sont présentés comme la prochaine grande révolution. Ces modèles ont la capacité d’interagir de manière autonome avec leur environnement, comme un bureau numérique, ce qui leur permet d’exécuter des tâches sans intervention humaine directe. De grandes entreprises telles que Microsoft et Anthropic ont déjà lancé leurs propres versions de ces agents, qui peuvent fonctionner en tant qu’assistants personnels ou même comme employés virtuels pour diverses entreprises.
Les Dangers des Systèmes Autonomes
Malgré leur position de leader sur le marché, OpenAI n’a pas encore mis sur le marché sa propre version de cette technologie. Ce retard, qui intrigue et préoccupe à la fois, est dû à des défis importantes. Selon des rapports, l’une des principales préoccupations est le risque posé par les injections de requêtes, qui peuvent tromper un modèle AI en lui ordonnant de suivre des instructions malveillantes.
Un exemple de ceci pourrait être le cas d’un utilisateur demandant à un agent AI de faire un achat en ligne. Cependant, en cours de route, cet agent pourrait être redirigé vers un site web malveillant et, par conséquent, compromettre des données sensibles, comme des informations de carte de crédit ou des accès à des emails.
Conséquences Potentielles de Compromissions
Cette situation serait catastrophique tant pour les individus touchés que pour l’image publique d’OpenAI. Tous les modèles de langage grandes échelles (LLM) peuvent potentiellement subir de telles attaques, mais les autonomies des agents AI accentuent les risques. un employé d’OpenAI a expliqué que leur capacité à naviguer le web les expose à davantage de menaces. En laissant un logiciel contrôler un ordinateur, les conséquences d’un piratage peuvent être désastreuses, comme lorsqu’un agent fouille indûment dans vos fichiers à l’insu de l’utilisateur.
Les Failles Déjà Connues
Les injections de requêtes ne sont pas un phénomène nouveau et ont été documentées ailleurs. Par exemple, un chercheur en sécurité a montré l’année dernière comment le Copilot AI de Microsoft pouvait facilement être détourné pour révéler des données sensibles d’une organisation. De plus, une autre étude a démontré que le ChatGPT d’OpenAI pouvait être manipulé simplement en insérant des faux souvenirs par l’upload de documents tiers.
Il a été rapporté que certains employés d’OpenAI ont été surpris par la posture désinvolte de leur concurrent, Anthropic, qui a mis sur le marché son propre agent IA tout en minimisant les risques associés aux injections de requêtes. Leur conseil était simplement d’isoler leur modèle, nommé Claude, des informations sensibles, sans aller plus loin dans les mesures de sécurité.
Une Prochaine Sortie ?
Selon les informations récentes, il est envisageable qu’OpenAI dévoile son logiciel d’agent d’ici la fin de ce mois. Reste à voir si ce temps supplémentaire leur permettra d’implémenter des mesures de sécurité adéquates face à ces vulnérabilités.
FAQ
Qu’est-ce qu’un agent IA ?
Un agent IA est un système qui peut interagir avec son environnement de manière autonome, exécutant diverses tâches sans intervention humaine.
Pourquoi OpenAI prend-elle du temps pour développer son agent AI ?
OpenAI prend son temps pour s’assurer que ses modèles sont protégés contre des attaques potentielles, comme les injections de requêtes, qui pourraient compromettre la sécurité des utilisateurs.
Quelles sont les conséquences de l’injection de requêtes ?
Les injections de requêtes peuvent amener une IA à agir de manière malveillante, entraînant des fuites de données sensibles et des problèmes de sécurité.
Comment se protègent les entreprises contre ces risques ?
Les entreprises peuvent adopter des mesures de sécurité comme l’isolation de l’IA des données sensibles et la mise en place de protocoles de test rigoureux avant le lancement des applications.
Quelles sont les autres entreprises travaillant sur des agents AI ?
Outre OpenAI et Anthropic, plusieurs autres entreprises technologiques développent également leurs propres versions d’agents IA, chacun avec des caractéristiques et des fonctionnalités uniques.
