En savoir plus
Le conflit sur l’utilisation de l’IA militaire
Il n’est pas aussi dramatique que dans « Dr Strangelove », mais il existe une dynamique particulière autour de l’IA militaire. En effet, le Pentagone se trouve engagé dans un différend avec la société Anthropic, spécialisée dans le développement d’IA. Ce conflit concerne la mise en place de garanties visant à empêcher le gouvernement d’utiliser cette technologie pour des opérations autonomes de ciblage d’armement ou de surveillance sur le territoire américain, selon trois sources informées qui se sont confiées à Reuters.
Ces discussions marquent un tournant, révélant si la Silicon Valley, qui a renoué des liens avec le gouvernement, peut influer sur la manière dont les agences militaires et de renseignement américaines adoptent cette IA de plus en plus puissante, notamment sur le terrain.
Figer les négociations
Après plusieurs mois de pourparlers autour d’un contrat de 200 millions de dollars, le département de la Défense américain et Anthropic sont parvenus à une impasse. Six sources, qui ont souhaité rester anonymes en raison de la sensibilité des échanges, ont indiqué que le fossé qui se creuse entre les agences de sécurité nationale et les entreprises technologiques illustre la tension croissante sur la manière dont l’IA commerciale peut être intégrée, surtout dans des contextes critiques.
Anthropic, fondée par d’anciens cadres d’OpenAI, a mis en avant la sécurité de l’IA et milite pour des contraintes contractuelles qui limiteraient l’utilisation de ses modèles. Les représentants de la société ont exprimé leurs inquiétudes concernant l’utilisation de leurs outils pour surveiller des citoyens américains ou pour cibler des armes sans suffisamment de supervision humaine.
De leur côté, les responsables du Pentagone s’opposent fermement à de telles restrictions. Ils estiment qu’ils doivent bénéficier de la latitude pour déployer des technologies d’IA commerciales tant que ces actions respectent la législation américaine, indépendamment des politiques internes des entreprises.
Les enjeux de l’IA dans le domaine militaire
Le différend actuel entre Anthropic et le Pentagone pourrait avoir des conséquences notables pour l’entreprise, surtout en ce moment crucial où elle envisage une introduction en bourse. Basée à San Francisco, la startup a investi d’importantes ressources pour séduire les clients du secteur de la sécurité nationale. Elle cherche également à jouer un rôle de premier plan dans l’élaboration des politiques gouvernementales liées à l’IA, se positionnant ainsi comme un fournisseur de technologies responsables.
Les contrats attribués à Anthropic, ainsi qu’à d’autres grands développeurs d’IA comme Google, xAI d’Elon Musk et OpenAI, sont un signal clair que le département de la Défense souhaite intégrer l’IA commerciale dans des domaines tels que la planification, l’analyse des renseignements, et potentiellement dans les systèmes d’armement.
Toutefois, ce blocage soulève une question fondamentale sur la dépendance aux fournisseurs d’IA commerciaux : doit-on accepter des limites imposées par ces entreprises ou les impératifs de sécurité nationale doivent-ils primer sur leurs politiques ?
Contexte politique
Récemment, dans un essai publié sur son blog personnel, le PDG d’Anthropic, Dario Amodei, a souligné que l’IA devrait soutenir la défense nationale « de toutes les manières sauf celles qui nous feraient ressembler davantage à nos adversaires autocratiques ». Cette déclaration reflète la position de certains chercheurs en IA qui estiment que les gouvernements démocratiques doivent imposer des limites éthiques strictes sur les technologies émergentes, peu importe la politique de leurs concurrents.
Amodei, co-fondateur d’Anthropic, a également dénoncé des tirs mortels sur des citoyens américains lors de manifestations contre les actions d’expulsion à Minneapolis, qualifiant cela de « véritable horreur ». Cela renforce les craintes à Silicon Valley concernant l’utilisation de technologies avancées, y compris l’IA, par des agences gouvernementales, et les risques potentiels pour la violence et les libertés civiles.
Plus les systèmes d’IA deviennent performants et intégrés dans les opérations de sécurité nationale, plus la dispute entre Anthropic et le Pentagone souligne qui a le pouvoir de définir les règles à suivre.
FAQ
Quelles sont les implications des discussions entre le Pentagone et Anthropic ?
Les résultats de ces négociations pourraient influencer la manière dont l’IA est utilisée dans des contextes militaires, notamment la surveillance et l’autonomie des systèmes d’armement.
Pourquoi le Pentagone souhaite-t-il intégrer l’IA commerciale ?
Le Pentagone cherche à bénéficier des avancées de l’IA pour optimiser ses opérations, que ce soit dans la planification stratégique, l’analyse de données, ou potentiellement même dans le domaine des armements.
Anthropic a-t-elle d’autres clients gouvernementaux ?
Oui, Anthropic a déjà effectué des missions pour divers secteurs gouvernementaux, utilisant son expertise en IA pour des petites missions de sécurité nationale.
Quels effets pourraient avoir des limitations imposées par des entreprises sur la sécurité nationale ?
Si des entreprises comme Anthropic réussissent à établir des restrictions, cela pourrait limiter la flexibilité des opérations militaires, surtout dans des situations d’urgence où une réaction rapide est nécessaire.
Comment se positionne Anthropic vis-à-vis de la sécurité nationale ?
Anthropic cherche à jouer un rôle clé dans l’orientation politique de l’IA, insistant sur une utilisation responsable de sa technologie, tout en étant un partenaire dans des missions de sécurité nationale.
