Un virus informatique exploitant ChatGPT
Des chercheurs ont mis au point un virus informatique capable d’utiliser la puissance de ChatGPT pour se camoufler en modifiant son propre code. De manière particulièrement insidieuse, ce virus parvient à se propager en s’attachant à des emails générés par une IA, qui semblent avoir été rédigés par un être humain.
Une technique innovante
D’après un article de New Scientist, David Zollikofer, étudiant en informatique à l’ETH Zurich, et Ben Zimmerman, chercheur sur les malwares liés à l’IA à l’Université d’État de l’Ohio, ont créé un fichier pouvant se transmettre aux ordinateurs des victimes sous la forme d’une pièce jointe dans un email. Zollikofer explique : « Nous demandons à ChatGPT de réécrire le fichier tout en maintenant la structure sémantique, mais en modifiant les noms de variables et en changeant légèrement la logique. »
Un virus rusé
Ce que les chercheurs appellent le « cancer synthetique » est conçu pour passer inaperçu aux scans antivirus, ce qui fait de lui un intrus particulièrement difficile à détecter. Une fois qu’il réussit à s’installer dans le système de la victime, le virus ouvre Outlook et commence à rédiger des réponses par email qui sont pertinentes par rapport au contexte, tout en s’incluant comme une pièce jointe innocente.
Risques et préoccupations
Cette découverte illustre à quel point les chatbots alimentés par IA peuvent être utilisés pour diffuser des malwares de manière efficace. Les spécialistes mettent également en garde : ces outils peuvent aider des acteurs malveillants à rendre leurs actions encore plus difficiles à détecter. Dans un document qui n’a pas encore été examiné par des pairs, les deux chercheurs soulignent que leur prototype met en lumière les dangers que les modèles de langage (LLMs) posent pour la cybersécurité et la nécessité d’effectuer davantage de recherches sur les malwares intelligents.
Exemple d’email
Dans une de ses tentatives de social engineering, le virus a rédigé un email qui disait : « Chère Claire, je suis vraiment ravi d’apprendre que tu te joindras à nous pour fêter mon 38e anniversaire. Ta présence est toujours appréciée et j’attends avec impatience notre voyage nostalgique dans les années 80. » L’email était accompagné d’une pièce jointe intitulée « 80s_Nostalgia_Playlist.exe » qui, si elle était ouverte, installerait un ver sur l’ordinateur de la victime, en supposant que Claire ne soit pas très « techniquement douée », comme l’ont noté les chercheurs.
Résistance de l’IA
Fait intéressant, ChatGPT a parfois réussi à déceler les intentions malveillantes du virus et a refusé de coopérer. D’autres chercheurs ont déjà utilisé cette technologie pour créer des « vers » capables de s’infiltrer dans les emails d’une victime et d’accéder à ses données.
Les experts estiment que ce virus n’est que la partie visible d’un iceberg. Alan Woodward, chercheur en cybersécurité à l’Université de Surrey, souligne : « Nous devrions être inquiets, car nous savons déjà que les LLM peuvent être abusés. Ce qui est inquiétant, c’est que ces techniques peuvent être perfectionnées en demandant à la technologie elle-même de contribuer. »
Perspectives d’avenir
Malgré le pessimisme ambiant, Zollikofer reste optimiste. « L’attaque a un certain avantage en ce moment, car il y a eu davantage de recherche de ce côté-là. Mais on peut également intégrer ces technologies dans la défense pour renforcer nos protections. »
FAQ
Quels sont les dangers de l’utilisation de LLMs dans la cybersécurité ?
Les LLMs peuvent générer du contenu trompeur, facilitant la création de faux emails ou de messages malveillants difficiles à détecter, augmentant ainsi le risque d’escroqueries et d’attaques.
Quelles mesures peuvent être prises pour prévenir ce type de malware ?
Il est essentiel d’améliorer les systèmes de détection d’emails, d’informer les utilisateurs sur les dangers des pièces jointes inconnues et d’introduire des protocoles de sécurité plus robustes dans les logiciels de messagerie.
Comment les chercheurs testent-ils l’efficacité de ces virus ?
Les chercheurs conçoivent des prototypes en laboratoire pour étudier leur comportement dans divers environnements informatiques, visant ainsi à identifier des vulnérabilités avant qu’elles ne soient exploitées par des cybercriminels.
Y a-t-il un moyen d’éduquer les utilisateurs sur ces menaces ?
Oui, des programmes de sensibilisation et de formation peuvent aider les utilisateurs à reconnaître les signes d’emails malveillants et à adopter de bonnes pratiques de sécurité numérique.
Quelle est la réaction des entreprises face à cette menace croissante ?
Les entreprises commencent à investir davantage dans des technologies de défense avancées et à former leur personnel sur les meilleures pratiques de cybersécurité pour contrer les menaces liées aux malwares intelligents.
