D’après des déclarations d’**Anthropic**, l’entreprise a interrompu plusieurs tentatives d’utilisation par des chercheurs étrangers de ses **agents d’intelligence artificielle** pour élaborer d’éventuelles armes biologiques, comme l’indique un rapport du New York Times.
Cette information préoccupante a été dévoilée dans un **rapport détaillé** publié par le créateur du chatbot Claude, jeudi dernier. Ce rapport intervient dans un contexte de vigilance accrue concernant la sécurité de l’IA, après qu’un ancien employé d’Anthropic a accusé la société de construire des systèmes d’IA puissants de manière irresponsable, malgré sa connaissance de leur potentiel destructeur.
Le rapport expose que dans plusieurs pays, des chercheurs ont contourné les limitations que **voulait imposer Anthropic** à l’accès à ses modèles. Ils auraient même tenté de “cacher l’objectif de leurs recherches pour échapper à nos contrôles”.
Une situation s’est produite en mai, où un scientifique a demandé à Claude de l’aider à rédiger une demande de subvention d’État pour un projet controversé : ingérer des mutations plus nuisibles du virus de la chikungunya, véhiculé par les moustiques, responsable de **fièvres et de douleurs articulaires invalidantes**. Selon Anthropic, ce projet aurait dû se dérouler dans un institut de recherche militaire.
“Nous ne savons pas si la recherche avait pour but d’être utilisée comme une arme”, a affirmé Jacon Klein, responsable de l’intelligence des menaces chez **Anthropic**, lors d’une interview accordée au NYT. “Toutefois, qu’une institution militaire mène une recherche sur le gain de fonction est préoccupant”, a-t-il précisé, se référant à des recherches visant à améliorer ou à ajouter des capacités biologiques à des organismes et des agents pathogènes.
L’entreprise a relevé quatre autres cas similaires où des scientifiques ont su contourner les barrières mises en place pour mener des recherches bioéthiquement douteuses. Anthropic a **bannit tous les comptes** impliqués. Cependant, de la même manière que pour le cas du virus chikungunya, Anthropic n’a pas réussi à déterminer avec certitude si ces recherches étaient valables ou si elles visaient à créer des armes biologiques. Cela dit, l’entreprise a choisi de privilégier la **prudence**.
“Ce n’est pas comme dans un comic où l’on dit, ‘Je veux fabriquer une arme biologique pour tuer tout le monde,’” a expliqué Klein au NYT. “C’est une situation extrêmement **nuancée**.”
Depuis plusieurs années, l’industrie de l’IA alerte sur les risques associés à l’utilisation de l’IA pour créer des armes biologiques, incluant les propos de Dario Amodei, le **PDG d’Anthropic**. Dans un long essai publié cette année, Amodei s’est engagé à **améliorer sans cesse** ses systèmes de sécurité pour empêcher que ses modèles ne contribuent à des recherches sur les armes biologiques, tout en affirmant que des réglementations et des coopérations internationales étaient essentielles pour atténuer ces risques.
Pourtant, malgré les affirmations d’Anthropic concernant la prévention des abus de ses modèles, ces nouvelles soulèvent des interrogations sur la capacité de l’entreprise et d’autres dans le domaine de l’IA à garantir un **usage responsable** de leur technologie. D’après leur propre bilan, les dispositifs de sécurité ont échoué, susceptibles de laisser un champ libre à d’autres acteurs à l’avenir.
En résumé, si ces acteurs étatiques visaient réellement à développer des armes biologiques, cela constituerait une **escalade dramatique**, indiquant que nous sommes en passe de nous diriger vers une catastrophe. Cela dépendra aussi de la capacité des systèmes d’Anthropic à fertiliser ces efforts dangereux. En plein débat sur la sécurité, l’entreprise a été accusée de créer une peur autour de sa propre technologie à des fins commerciales.
Certains experts affirment que **la menace est déjà bien réelle**.
Andrew Weber, chercheur senior au Conseil des risques stratégiques, qui a examiné le rapport d’Anthropic avant sa publication, a déclaré au NYT que ses conclusions constituent des exemples « glaçants » de développeurs d’armes biologiques **sponsorisés par l’État** exploitant les capacités des modèles avancés de l’IA de pointe.
En savoir plus sur l’IA : Anthropic construit un énorme système de surveillance pour espionner les **activistes anti-IA** et prédire leurs activités
FAQ
Qu’est-ce qu’un “gain de fonction” en recherche biologique ?
Le gain de fonction fait référence à des études qui augmentent les capacités biologiques d’un organisme ou d’un agent pathogène, ce qui peut avoir des implications pour la santé publique et la sécurité.
Pourquoi la sécurité de l’IA est-elle un sujet de préoccupation actuel ?
Les avancées rapides dans le domaine de l’IA soulèvent des inquiétudes, car ces technologies pourraient être détournées pour des usages malveillants, comme la création d’armes biologiques ou d’autres applications telles que la surveillance.
Quelle est la réaction de la communauté scientifique face à ces révélations ?
La communauté scientifique est divisée, certains experts reconnaissant les faits alarmants des recherches sur les armes biologiques, tandis que d’autres dénoncent une exagération dans la peur entourant les technologies émergentes.
Quelles mesures sont proposées pour éviter les abus de l’IA ?
Il est suggéré que des réglementations strictes, une coopération internationale et une surveillance des recherches en IA pourraient mieux encadrer et prévenir les abus potentiels.
Anthropic a-t-elle des responsabilités vis-à-vis de ses technologies ?
Oui, les entreprises comme Anthropic sont tenues de garantir que leurs technologies sont utilisées de manière éthique et responsable afin d’éviter toute facilité d’accès à des chercheurs malintentionnés.
