Le contexte des modèles d’IA
Le mois dernier, l’administration Trump a contraint la société d’IA Anthropic à retirer ses modèles d’IA les plus avancés, à savoir Mythos 5 et Fable 5, en invoquant des préoccupations liées à la sécurité nationale. Cela a été motivé par des craintes concernant les failles de sécurité internes de Fable 5 qui pourraient être contournées ou “piratées”, provoquant l’inquiétude des responsables gouvernementaux.
Les risques liés aux nouvelles technologies
Anthropic a depuis longtemps alerté sur le fait que ses derniers modèles étaient capables de déceler des vulnérabilités en cybersécurité exploitables par des acteurs malveillants. Avant l’interdiction du gouvernement, l’entreprise avait accordé un accès limité à Mythos 5, son modèle le plus puissant, à un nombre restreint de sociétés et d’institutions, afin de leur permettre de corriger des failles potentielles.
Un retour progressif sur le marché
Quelques semaines plus tard, le gouvernement américain a autorisés à nouveau Anthropic à relancer une distribution limitée de Mythos 5. À partir du 1er juillet, Fable 5 a été remis à la disposition du public, mais à un prix élevé pour les abonnements, tandis que Mythos 5 est maintenant accessible à environ 100 organisations et agences gouvernementales américaines.
Des nouvelles propositions pour les hackers
Cependant, des hackers cherchant à exploiter l’IA pour des fins criminelles voient apparaître de nouvelles alternatives. Selon un article de Forbes, l’entreprise d’IA basée à Beijing, Z.ai, a lancé un modèle libre d’accès, appelé GLM-5.2, capable d’effectuer des tâches de codage à grande échelle et de rivaliser avec les modèles d’Anthropic en matière d’identification de failles.
Accès et impacts sur la cybersécurité
GLM-5.2 est téléchargeable par quiconque et peut fonctionner sur presque tous les types de matériel. Contrairement à Mythos ou Fable, ce modèle n’a aucun intermédiaire, ce qui augmente considérablement les enjeux en cybersécurité. En résumé, ces modèles de pointe peuvent aider les chercheurs à combler les lacunes dans les logiciels couramment utilisés, mais ils peuvent aussi être exploités par des hackers pour contourner les défenses existantes.
Les conclusions des experts
Des entreprises de sécurité comme Semgrep et Graphistry ont constaté que GLM-5.2 excelle dans l’identification des bugs logiciels et d’autres tâches liées à la cybersécurité. Semgrep a même intitulé son rapport de benchmark “Nous avons Mythos à la maison”. Des chercheurs de Graphistry ont émis l’hypothèse que Z.ai pourrait avoir distillé des versions de GPT-5.5 de OpenAI et d’Opus 4.8 d’Anthropic, une pratique controversée qui fait appel à un modèle “enseignant” pour former un modèle “étudiant”, ce qui pourrait expliquer la rapidité avec laquelle la Chine a rattrapé son retard.
Les implications réelles sur le terrain
Des consultants ont également signalé que des hackers échangent déjà des techniques pour pirater GLM-5.2 sur des forums en langue russe, indiquant une menace très actuelle. Un expert en cybersécurité d’Armadin, Travis Lanham, a précisé que les attaquants peuvent exécuter le modèle localement, sans protections, et l’ajuster spécifiquement à leurs cibles, le tout sans que les fournisseurs ou les défenseurs puissent détecter leur activité.
FAQ
Quelle est la différence entre Mythos 5 et GLM-5.2 ?
Mythos 5 est accessible principalement à un nombre restreint d’organisations sous abonnement, tandis que GLM-5.2 est un modèle libre disponible pour tout le monde, augmentant ainsi les risques de son utilisation.
Quelle est l’importance de la cybersécurité dans le développement de l’IA ?
La cybersécurité est cruciale pour protéger les données sensibles et garantir que les modèles d’IA ne soient pas détournés pour des activités criminelles.
Quelles sont les implications de ces modèles d’IA avancés pour les entreprises ?
Les entreprises peuvent bénéficier de ces modèles pour améliorer leur cybersécurité, mais elles doivent également être conscientes des risques qu’ils peuvent poser si utilisés à des fins malveillantes.
Comment les gouvernements régulent-ils l’utilisation des outils d’IA ?
Les gouvernements peuvent imposer des restrictions sur l’accès et l’utilisation des modèles d’IA, en se basant sur des préoccupations concernant la sécurité nationale et la protection des données.
Quelles mesures peuvent être prises pour se protéger contre ces menaces ?
Il est essentiel pour les entreprises de maintenir leurs systèmes à jour, de former leurs employés et d’implémenter des protocoles de sécurité robustes pour contrer les éventuelles menaces d’utilisation malveillante de l’IA.
