L’importance de la cybersécurité pour les nations
Dans le domaine de la cybersécurité, aucune nation ne peut se permettre d’être négligente. En effet, si les systèmes de défense d’un pays ne parviennent pas à anticiper les manigances des attaquants, cela peut entraîner des conséquences catastrophiques, telles que la compromission de secrets militaires ou des pannes majeures causées par des logiciels malveillants dissimulés.
L’enjeu est de taille, car les systèmes de défense doivent constamment évoluer pour faire face à la menace d’attaques. Malheureusement, il semble que la défense soit toujours en retard par rapport aux méthodes d’attaque employées.
Ben Rubinstein, professeur à l’Université de Melbourne, soulève une question cruciale : « Ne serait-il pas bénéfique de savoir ce que les créateurs de logiciels malveillants prévoient d’inventer et quels types de malware pourraient passer les filtres de sécurité ? » En d’autres termes, comment les systèmes de défense peuvent-ils apprendre à anticiper les ruses des attaquants ?
Apprentissage Automatique Adversarial
Pour répondre à cette problématique, Rubinstein se penche sur la préparation des systèmes d’apprentissage automatique pour déceler les attaques adversariales. Dans le paysage complexe de la cybersécurité nationale, les attaquants peuvent être des hackers individuels ou des États cherchant à exploiter les failles des systèmes pour un gain personnel ou politique.
La dépendance croissante des nations à l’égard des systèmes d’apprentissage automatique pour se protéger contre de tels adversaires est évidente. Privés de l’aide humaine, ces systèmes peuvent apprendre et se perfectionner au fur et à mesure qu’ils sont exposés à de nouvelles données. Leur capacité à apprendre améliore leur efficacité dans la détection des attaques adversariales.
Cependant, même si ces systèmes s’avèrent souvent performants, ils ne sont pas à l’abri des menaces. Les attaquants cherchent constamment des moyens astucieux de les tromper. Rubinstein précise : « L’apprentissage automatique fonctionne bien quand il s’agit de données similaires à celles déjà rencontrées, mais il peut échouer avec des données inconnues. »
Pour pallier cette faiblesse, les agences de sécurité exploitent l’apprentissage automatique adversarial en exposant leurs systèmes à divers types de données malveillantes afin de tester leurs filtres. Cela permet à ces systèmes d’apprendre à identifier et à capturer des logiciels malveillants provenant d’attaquants rusés.
Évaluation de la Sécurité des Systèmes d’Apprentissage Automatique
Le projet de Rubinstein, intitulé « Évaluation de la sécurité des systèmes d’apprentissage automatique », a pour objectif ultime de développer un outil logiciel que les entreprises et les agences gouvernementales pourraient utiliser pour tester leurs défenses. Toute organisation utilisant ces systèmes pourrait faire fonctionner ce logiciel afin de tester la robustesse de sa sécurité. Cet outil aurait la capacité d’attaquer et de subtiliser les systèmes, révélant ainsi leurs faiblesses.
L’évaluation proposée par ce logiciel fonctionnerait de manière similaire à la défense d’un château. Rubinstein explique : « Nous ne vous construisons pas un nouveau château ; nous allons examiner le périmètre à la recherche de failles dans les murs ou d’éléments vulnérables. »
En analysant une multitude de systèmes d’apprentissage automatique, cet outil sera capable de détecter des tendances et de conseiller les agences de sécurité pour soit changer de système, soit renforcer leurs mécanismes de défense existants. En ce sens, il agit comme un consultant pour chaque type de système d’apprentissage automatique.
Exemples d’Applications Pratiques
Prenons le cas d’un programme de reconnaissance faciale. Ce programme utiliserait l’apprentissage automatique pour identifier les visages et détecter les imposteurs qui cherchent à se faire passer pour quelqu’un d’autre. Rubinstein décrit : « Notre logiciel vise à automatiser cette évaluation de sécurité, en prenant une image d’une personne pour déterminer les modifications à apporter afin d’échapper à la détection ou d’influencer le résultat de l’apprentissage automatique. »
Ces manipulations sont connues sous le nom d’attaques par mimicry, où un adversaire trompe un système en faisant en sorte qu’un visage ressemble à un autre.
Pour rendre cela plus concret, l’équipe de Rubinstein a développé un programme qui illustre comment modifier l’apparence d’un visage afin de tromper un système d’apprentissage automatique. Bien que les deux visages semblent différents, le visage de gauche a été ajusté pour que le système le considère comme identique à celui de droite. Cet exemple montre comment les attaquants peuvent exploiter des subtilités pour déjouer les systèmes.
Lorsque le logiciel de Rubinstein réussit à tromper un système par une attaque de mimicry, les responsables de la sécurité peuvent utiliser ces informations pour retravailler leurs programmes et améliorer la sécurité, notamment dans des situations critiques.
Réduire l’Avantage des Attaquants
Bien que le logiciel de Rubinstein contribue à sécuriser les systèmes d’apprentissage automatique, il a conscience des avantages naturels dont disposent les attaquants. En effet, il est toujours plus facile de prendre d’assaut un château que de le défendre, un principe qui s’applique également aux systèmes d’apprentissage automatique. Ce phénomène est connu sous le nom d’asymétrie dans la cyberguerre.
Rubinstein affirme : « L’attaquant peut attaquer sous n’importe quel angle. Il suffit qu’il réussisse une seule fois, tandis que le défenseur doit réussir sur tous les fronts. »
Il s’inquiète également du fait que les outils existants pour tester les systèmes d’apprentissage automatique restent souvent théoriques, laissant une lourde charge d’interprétation des mathématiques complexes aux agents de sécurité. Alors qu’un chercheur pourrait ajuster ses analyses pour chaque nouveau système, les agents de sécurité n’ont généralement pas le temps ou les ressources nécessaires pour suivre cette évolution.
L’objectif de Rubinstein est de rendre la théorie plus appliquée et accessible, afin que quiconque utilisant l’apprentissage automatique puisse évaluer la sécurité de son système. Grâce à son logiciel, il espère niveler le terrain de jeu entre attaquants et défenseurs, en fournissant aux agences de sécurité de meilleurs outils pour tester et adapter leurs systèmes. Ainsi, il vise à renforcer leur capacité à anticiper et à protéger leurs infrastructures contre les cyberattaques.
FAQ
Qu’est-ce que l’apprentissage automatique adversarial ?
L’apprentissage automatique adversarial est une approche visant à protéger les systèmes d’apprentissage automatique en leur permettant d’identifier et de prévenir des attaques malveillantes.
Pourquoi les systèmes d’apprentissage automatique ne sont-ils pas infaillibles ?
Ces systèmes fonctionnent efficacement avec des données connues, mais ils peuvent échouer avec des ensembles de données inédits qui n’ont pas été intégrés dans leur modèle d’apprentissage.
Comment les entreprises peuvent-elles utiliser le logiciel de Rubinstein ?
Les entreprises peuvent exécuter ce logiciel pour simuler des attaques sur leurs systèmes d’apprentissage automatique, leur permettant ainsi d’identifier et de corriger leurs vulnérabilités.
En quoi consiste une attaque par mimicry ?
Une attaque par mimicry consiste à modifier une instance (comme un visage) pour qu’elle soit perçue comme une autre par un système d’apprentissage automatique, induisant le système en erreur.
Quel est l’impact de l’asymétrie dans la cyberguerre ?
Cette asymétrie signifie que les attaquants ont souvent l’avantage, car il leur suffit de réussir une seule attaque, tandis que les défenseurs doivent constamment protéger leur système contre toutes les voies d’attaque.
Cela peut vous intéresser
