La tension entre **Anthropic** et le **Pentagone** concernant l’utilisation militaire de ses systèmes d’intelligence artificielle s’est intensifiée cette semaine à propos d’un scénario hypothétique impliquant une attaque nucléaire, selon un récent article du Washington Post.
Le président d’Anthropic, **Dario Amodei**, a exprimé sa frustration face aux demandes du Pentagone d’utiliser ses systèmes pour des armes autonomes et la surveillance de masse des citoyens américains. Lors d’un échange, un responsable du ministère de la Défense a posé une question provocatrice : permettrait-il à Anthropic d’assister l’armée dans l’interception d’un missile balistique intercontinental armé de têtes nucléaires ?
La réponse d’Amodei a visiblement irrité les dirigeants militaires. Selon un rapport, les responsables ont interprété ses propos comme une invitation à discuter, mais Anthropic a rapidement démenti cette version des faits.
Malgré la controverse, il demeure évident que les deux parties n’arrivent pas à trouver un terrain d’entente. Le débat tourne autour des exigences du Pentagone de limiter les protections autour de Claude, l’intelligence artificielle d’Anthropic. Cette situation crée un climat d’inquiétude au sein de l’entreprise.
Depuis de nombreux mois, des figures de l’administration de **Donald Trump**, à l’intérieur et à l’extérieur du **DoD**, exercent une pression croissante sur Anthropic, qui a été fondée par d’anciens employés d’OpenAI, mettant un point d’honneur sur la sécurité. Amodei a critiqué les tentatives de l’administration visant à restreindre la régulation des IA, y compris un projet d’interdiction de toute régulation au niveau des États. En retour, des responsables, comme le **czar de l’IA David Sacks**, ont qualifié Amodei de “woke” et l’ont accusé de créer une inquiétude injustifiée.
Les tensions ont, par ailleurs, considérablement augmenté récemment. Lors d’une réunion tendue avec le secrétaire à la Défense **Pete Hegseth**, Amodei aurait reçu **des ultimatums** clairs : si Anthropic ne respecte pas la demande d’utilisation sans restriction de son IA, le Pentagone pourrait annuler tous ses contrats actuels, y compris un contrat de 200 millions de dollars signé l’été précédent.
Le Pentagone a également évoqué l’éventualité de recourir à la **Defense Production Act**, une loi issue de la guerre froide, pour forcer Anthropic à partager sa technologie d’IA, bien que cette approche semble juridiquement problématique.
Dans une déclaration récente, Amodei a affirmé qu’Anthropic ne pouvait accepter la proposition finale du Pentagone pour une utilisation illimitée de Claude, malgré les menaces de Hegseth. Les officiels du Pentagone ont très mal pris cette réponse. Sur le réseau social **X**, le sous-secrétaire à la Défense, **Emil Michael**, a accusé Amodei d’avoir un “complexe de Dieu”, affirmant que ce dernier veut prendre le contrôle de l’armée américaine au risque de compromettre la sécurité nationale.
Sean Parnell, porte-parole du Pentagone, a insisté sur le fait que le ministère n’avait “aucun intérêt” à mener des projets de surveillance de masse avec l’IA, affirmant que leur demande était simplement d’utiliser la technologie d’Anthropic pour des « objectifs légaux ». Il a également menacé de rompre les relations si la décision n’était pas prise avant un délai imparti.
Il est difficile de prédire le prochain mouvement de chaque partie dans ce conflit. Cependant, Anthropic pourrait bénéficier du soutien d’autres entreprises de la **Silicon Valley**. Des employés de géants tels que Google, Microsoft et Amazon ont récemment réclamé que leurs entreprises rejoignent leur cause en refusant l’utilisation non régulée des systèmes d’IA par l’armée.
Le scénario nucléaire suggéré lors des discussions par le Pentagone, bien que hypothétique, met en lumière l’intention sérieuse d’intégrer la technologie d’IA. À l’échelle mondiale, des puissances telles que la France et la Chine se sont engagées à faire en sorte qu’un humain soit impliqué dans toutes les décisions relatives à l’utilisation d’armes nucléaires. Toutefois, un système d’IA pourrait influencer ce choix critique, comme l’indique **Paul Dean**, vice-président d’un programme nucléaire, qui a souligné que des modèles d’IA convergents comme Claude, Gemini et ChatGPT avaient opté pour le déploiement d’armes nucléaires dans la majorité des simulations récentes.
Finalement, la problématique fondamentale dépasse largement la simple présence humaine dans le processus décisionnel. La véritable interrogation réside dans l’impact que l’IA pourrait avoir sur ces décisions humaines.
FAQ
Quel est le rôle d’Anthropic dans le développement de l’IA ?
Anthropic se concentre sur le développement d’intelligences artificielles sûres, issues de l’expérience d’anciens employés d’OpenAI.
Pourquoi le Pentagone insiste-t-il sur l’accès à Claude ?
Le Pentagone cherche à exploiter l’IA pour optimiser les capacités militaires, bien que cela soulève des préoccupations éthiques et de sécurité.
Quelles sont les conséquences potentielles d’un conflit prolongé entre Anthropic et le Pentagone ?
Un conflit prolongé pourrait restreindre l’innovation en IA pour des applications militaires et nuire à la collaboration entre secteurs public et privé.
D’autres entreprises technologiques soutiennent-elles la position d’Anthropic ?
Oui, plusieurs employés de grandes entreprises souhaitent que leur organisation s’oppose également aux exigences militaires concernant la régulation de l’IA.
Quels sont les dangers de l’utilisation d’IA dans des décisions militaires ?
L’utilisation d’IA dans des décisions critiques peut entraîner des erreurs de jugement humaines et susciter des maux collatéraux, notamment dans le cadre de conflits armés.