Concurrence dans le domaine des navigateurs permettant l’IA
De nombreuses entreprises technologiques cherchent à tirer parti de l’intelligence artificielle pour développer une nouvelle génération de navigateurs web. Parmi les plus connus, on retrouve Comet de Perplexity, qui se décrit comme un « assistant personnel et partenaire de réflexion » lors de la navigation sur Internet.
Risques de cybersécurité
Cette approche, bien que séduisante, présente de graves implications en matière de cybersécurité. Comme l’a pointé du doigt l’entreprise Brave, spécialisée dans les navigateurs axés sur la protection de la vie privée, il est préoccupant de constater qu’il est très facile pour des acteurs malveillants de manipuler l’IA de Comet en intégrant des instructions malveillantes dans des contenus disponibles publiquement.
Un exemple de vulnérabilité
La vulnérabilité observée, connue sous le nom d’attaque par injection de commandes indirectes, est d’une simplicité effrayante. Dans un article de blog, Brave explique que le problème réside dans la manière dont Comet traite le contenu des pages web. Lorsque les utilisateurs demandent à Comet de « résumer cette page », le navigateur transmet certaines parties du contenu directement à son modèle de langage, sans faire la différence entre les instructions de l’utilisateur et des contenus peu fiables de la page.
Conséquences dangereuses
Cette faille permet à des attaquants d’introduire des charges utiles d’injection indirecte que l’IA pourrait exécuter comme des commandes. Par exemple, un malfaiteur pourrait accéder aux emails d’un utilisateur grâce à un texte préparé sur une page dans un autre onglet. L’IA dispose des pleins droits d’accès aux sessions authentifiées et pourrait ainsi accéder à des comptes bancaires, des systèmes d’entreprise, des emails privés, du stockage dans le cloud et d’autres services, créant ainsi un accès potentiellement dangereux.
Réactions des utilisateurs
Les utilisateurs sur les réseaux sociaux ont été choqués par la simplicité avec laquelle cette technologie peut être exploitée. Un développeur a exprimé son inquiétude en déclarant : « C’est pourquoi je ne fais pas confiance aux navigateurs utilisant l’IA. En consultant Reddit, un simple clic peut entraîner l’injection de commandes et le vidage de votre compte bancaire. »
Des instructions malveillantes pourraient être cachées, par exemple, dans un post Reddit ou Facebook sous forme de texte blanc sur fond blanc, rendant les instructions invisibles pour l’utilisateur, mais détectables par l’IA de Comet.
En traitant le contenu de la page web, l’IA voit ces instructions malveillantes cachées. Incapable de différencier le contenu à résumer et les instructions à ignorer, l’IA considère tout comme des demandes de l’utilisateur.
Ainsi, un scénario possible pourrait voir l’IA naviguer vers un site bancaire ou de cryptomonnaie pour vider son contenu, en utilisant des informations sensibles déjà stockées dans le navigateur, comme des mots de passe et des informations financières.
Mesures de sécurité nécessaires
Dans une vidéo explicative, Brave, qui travaille également sur son propre navigateur IA avec de meilleures mesures de sécurité, démontrait comment une telle attaque pourrait se produire dans la vie réelle. Un exemple d’instruction trompeuse cachée dans un post Reddit demandait à l’IA de suivre des étapes précises.
L’IA suivait avec empressement ces mauvaises instructions, accédant alors au compte Gmail de l’utilisateur pour obtenir un mot de passe temporaire de Perplexity, ce qui lui permettait de prendre complètement le contrôle du compte. Brave avertit que cette vulnérabilité rend les dispositifs de sécurité actuellement en place inutiles lorsqu’il s’agit de naviguer sur des contenus web non fiables.
Futur des navigateurs IA
Brave a découvert cette vulnérabilité et l’a signalée à Perplexity fin juillet. La mise à jour annoncée plus tôt ce mois-ci semble avoir corrigé ce problème. Cependant, ce ne sont pas seulement les navigateurs IA qui peuvent être victimes de telles attaques. Comme l’ont rapporté des chercheurs en sécurité, il a été révélé qu’il est possible de voler des informations sensibles à partir d’un compte Google Drive en exploitant une faille de sécurité dans ChatGPT, un produit d’OpenAI.
Enjeux de sécurité préoccupants
Plus inquiétant encore, des chercheurs ont démontré qu’AI Copilot de Microsoft peut facilement être manipulée pour révéler des données sensibles d’une organisation, comme des emails et des transactions bancaires. Ces vulnérabilités mettent en lumière la nécessité d’améliorer la sécurité des navigateurs IA. La technologie rend les attaques plus accessibles même pour ceux qui n’ont pas de connaissances approfondies en programmation.
Un développeur a réagi de manière humoristique face à cette vulnérabilité évidente en formulant sa propre commande d’injection. Il a proposé une instruction amusante se moquant des failles de sécurité observées.
FAQ
Qu’est-ce qu’une attaque par injection de commandes indirectes ?
C’est une méthode par laquelle des instructions malveillantes sont dissimulées dans du contenu accessible au public, que l’IA peut exécuter à l’insu des utilisateurs.
Pourquoi est-il dangereux d’utiliser des navigateurs dotés d’IA ?
Les navigateurs IA, comme Comet, peuvent être manipulés pour exécuter des commandes non désirées, ce qui expose les utilisateurs à des risques accrus de vols d’identité et d’accès non autorisé à des informations sensibles.
Comment les entreprises peuvent-elles se protéger contre ces vulnérabilités ?
Il est crucial de développer de nouvelles architectures de sécurité et de confidentialité adaptées à l’IA, en repensant les méthodes de protection actuelles pour faire face à ces nouvelles menaces.
Les utilisateurs doivent-ils arrêter d’utiliser les navigateurs IA ?
Pas nécessairement, mais l’utilisation de ces navigateurs doit être accompagnée d’une vigilance accrue en matière de sécurité pour éviter les risques associés à ces vulnérabilités.
Quelles sont les alternatives sécurisées pour naviguer sur le web ?
Les utilisateurs peuvent se tourner vers des navigateurs qui mettent l’accent sur la sécurité, comme Brave ou d’autres options réputées pour leur fiabilité, tout en étant conscients des dernières actualités en matière de sécurité.