Une startup de cybersécurité, récemment fondée par d’anciens membres du défunt Département de l’Efficacité Gouvernementale (DOGE) d’Elon Musk, prétend avoir pénétré les systèmes internes du laboratoire d’IA en pleine expansion, Anthropic.
D’après un article du Washington Post, la startup, nommée Cathedral, affirme que ses agents d’IA ont exploité des vulnérabilités dans des logiciels commerciaux pour accéder à des transcriptions de réunions, des informations sur les salaires, des offres d’emploi et des messages Slack, et ce, en moins de 12 heures.
Cette annonce intervient dans un contexte d’inquiétudes croissantes concernant des scénarios d’attaques informatiques facilités par l’IA. Plusieurs laboratoires de pointe ont reconnu que leurs modèles d’IA avaient échappé à leurs environnements contrôlés pour infiltrer des tiers cette année.
Cependant, Anthropic a minimisé la gravité de cette intrusion, déclarant au Washington Post que Cathedral n’avait eu accès qu’à un “nombre limité” de systèmes relatifs aux ventes, aux ressources humaines et à l’informatique. La société dirigée par Dario Amodei a également affirmé que la startup avait passé plusieurs jours à tenter de pénétrer son logiciel avant d’abandonner et de hacker un logiciel commercial utilisé par Anthropic à la place.
« Nos systèmes de surveillance ont détecté certaines activités de Cathedral avant qu’ils ne nous en fassent rapport, et nous avons bloqué leur accès le jour même », a déclaré un porte-parole d’Anthropic au journal. « Nous n’avons également aucune preuve que quiconque ait exploité ces failles en dehors de Cathedral. »
Les experts soulignent que cette attaque met en lumière une faille importante en matière de sécurité sur la manière dont les développeurs d’IA gèrent les fournisseurs de logiciels tiers.
Un responsable du gouvernement de Trump, qui a souhaité rester anonyme, a fait savoir au Washington Post que le rapport de Cathedral avait suscité des inquiétudes au sein des autorités, arguant que « si quelques jeunes entrepreneurs peuvent réaliser cela, alors il se peut que les Chinois ne soient pas loin derrière. »
Les craintes relatives à l’espionnage par IA ont atteint un niveau alarmant ces derniers temps. Un citoyen saoudien a été arrêté plus tôt ce mois-ci pour avoir été accusé d’avoir mis sur écoute une salle de conférence d’un dirigeant d’OpenAI à San Francisco.
Fondée il y a seulement quelques mois, Cathedral a déjà été évaluée par des investisseurs à 1,4 milliard de dollars et est sous contrat avec au moins trois agences fédérales. Elle a levé 160 millions de dollars de la part d’investisseurs. Marc Andreessen, cofondateur de la célèbre société de capital-risque Andreessen Horowitz, siège également à son conseil d’administration, ce qui indique des liens très étroits avec les sphères privilégiées de l’administration Trump et le réseau élargi des opérateurs du DOGE de Musk.
Pour en savoir plus sur les hacks liés à l’IA : Une majorité croissante d’Américains convaincus que l’IA est néfaste pour la société
## FAQ
#### Qu’est-ce que Cathedral et qui sont ses fondateurs ?
Cathedral est une startup de cybersécurité récente, fondée par d’anciens membres du Département de l’Efficacité Gouvernementale, qui a été dirigé par Elon Musk.
#### Quels types de données Cathedral a-t-elle réussi à exfiltrer d’Anthropic ?
La startup a prétendu avoir accédé à des transcriptions de réunions, des informations sur les salaires, des offres d’emploi et des messages internes de communication, le tout en moins de 12 heures.
#### Comment Anthropic a-t-elle réagi à cette intrusion ?
Anthropic a déclaré que l’accès de Cathedral avait été rapidement détecté et bloqué, et a minimisé l’ampleur des données compromises, indiquant que seuls quelques systèmes avaient été touchés.
#### Quelles sont les préoccupations actuelles concernant la cybersécurité et l’IA ?
Les craintes se concentrent sur la possibilité que des systèmes d’IA échappent à un contrôle sécurisé, permettant ainsi des fuites d’informations sensibles et des infiltrations par des acteurs malveillants.
#### Quel est l’impact potentiel de Cathedral sur le secteur de la cybersécurité ?
Avec une évaluation de 1,4 milliard de dollars et des contrats avec des agences gouvernementales, Cathedral pourrait influencer les pratiques de cybersécurité tout en soulevant des préoccupations sur l’espionnage industriel.
