Les dangers d’un nouveau ver informatique
Des chercheurs ont récemment conçu un ver informatique capable de se transmettre d’un ordinateur à un autre grâce à l’IA générative. Cela annonce un risque croissant que cette technologie puisse être utilisée pour créer des malwares dangereux dans un avenir proche, si cela n’a pas déjà été fait.
Un potentiel d’attaque inédit
Selon des informations relayées par Wired, ce ver a la capacité d’attaquer les assistants de messagerie alimentés par l’IA pour extraire des données sensibles d’e-mails, tout en diffusant des messages indésirés (spam) qui infectent d’autres systèmes. Ben Nassi, chercheur à Cornell Tech et co-auteur d’un article encore en attente de validation par les pairs, a souligné qu’il s’agit d’une nouvelle forme de cyberattaque jusqu’alors inédite.
Une menace imminente
Bien que ces vers incriminés n’aient pas encore été observés dans la nature, les chercheurs avertissent qu’il s’agit probablement d’une question de temps. En expérimentant dans un cadre contrôlé, ils ont ciblé des assistants de messagerie basés sur GPT-4 d’OpenAI, Gemini Pro de Google, et un modèle de langage open-source, LLaVA.
Mécanisme de propagation
Les chercheurs ont utilisé un prompt auto-réplicant, une sorte de commande qui incite un modèle d’IA à générer un autre prompt en réponse. Ce procédé engendre une série de sorties qui peuvent infecter ces assistants et extraire des informations confidentielles. Nassi a expliqué que cela pourrait inclure des noms, numéros de téléphone, numéros de cartes de crédit, ou tout autre type de données considérées comme privées.
Exploitation des données personnelles
Étant donné l’accès direct de ces assistants AI à une grande quantité de données personnelles, il est facile de les inciter à divulguer des informations sensibles, même en présence de mesures de sécurité. En utilisant un nouveau système de messagerie capable d’envoyer et de recevoir des messages, les chercheurs ont réussi à « empoisonner » la base de données d’un e-mail envoyé, ce qui a permis à l’IA destinataire de subtiliser des informations importantes.
Cycle d’infection
Le processus permet également au ver de se répandre vers de nouveaux appareils. Nassi a précisé que la réponse générée, contenant des données sensibles, peut infecter d’autres hôtes lorsqu’elle est utilisée pour répondre à un e-mail destiné à un nouvel utilisateur, et est ensuite enregistrée dans la base de données de ce dernier.
Une innovation malveillante
L’équipe a même réussi à intégrer un prompt malicieux dans une image, ce qui pourrait ensuite infecter d’autres clients de messagerie. En intégrant le prompt auto-réplicant dans une image, tout type d’image contenant des spams ou même de la propagande peut être transmis à de nouveaux destinataires après l’envoi de l’e-mail initial.
Collaboration avec les géants de la tech
Les chercheurs ont partagé leurs découvertes avec OpenAI et Google, et un porte-parole d’OpenAI a déclaré à Wired que l’entreprise travaille à rendre ses systèmes « plus résilients ». Cependant, l’urgence d’une réaction rapide est réelle. Nassi et ses collègues ont indiqué dans leur article que ces vers AI pourraient commencer à proliférer dans les années à venir, entraînant des conséquences importantes et indésirables.
Réflexion sur l’intégration de l’IA
Ce développement inquiétant met en lumière à quel point les entreprises sont prêtes à intégrer leurs assistants IA génératifs, sans prendre suffisamment de précautions pour éviter un cauchemar de cybersécurité.
FAQ
Quel est le principal risque lié à l’utilisation de l’IA générative ?
Le potentiel de ces technologies à créer des malwares sophistiqués et à permettre des attaques informatiques de grande envergure constitue un risque majeur.
Quels types de données peuvent être compromis par ce ver informatique ?
Des informations très sensibles telles que des noms, numéros de téléphone, numéros de cartes de crédit et autres données privées peuvent être extraits grâce à cette menace.
Comment les chercheurs ont-ils effectué leurs tests sur le ver ?
Ils ont utilisé un environnement contrôlé pour cibler des assistants de messagerie basés sur des IA avancées et ont appliqué une technique de prompt auto-réplicant pour démontrer la vulnérabilité.
Quelles mesures prennent les entreprises pour lutter contre ce type de menace ?
Les entreprises comme OpenAI travaillent à améliorer la sécurité de leurs systèmes, afin de rendre leurs assistants IA moins vulnérables aux cyberattaques.
Pourquoi est-il important d’être conscient de ces menaces ?
Comprendre ces dangers aide à sensibiliser le public et à inciter les entreprises à adopter des mesures de sécurité plus rigoureuses dans le développement et l’intégration de l’IA.