Utilisation Éthique
Le lundi dernier, le Pentagone a annoncé l’adoption officielle de nouveaux principes concernant l’utilisation éthique de l’intelligence artificielle dans le cadre militaire, d’après un rapport de l’Associated Press. Cette initiative émane d’une commission nommée le Defense Innovation Board, qui a publié des recommandations en octobre dernier portant sur le sujet.
Que ce soit par l’intermédiaire de l’ancien PDG de Google, Eric Schmidt, à la tête de ce Conseil, ou en raison des controverses antérieures entourant la présence de Google dans des projets de défense, l’origine de ces principes n’est pas anodine. En effet, Google avait, après d’importantes réclamations internes, décidé de se retirer d’un projet militaire en 2018 qui incorporait de l’IA.
Principes Directeurs
Selon le rapport de fin 2019, voici les cinq principes de base établis, accompagnés d’un bref éclaircissement :
- Responsabilité : Les acteurs humains au sein du ministère de la défense doivent faire preuve de discernement dans l’utilisation de l’IA sur le terrain.
- Équité : Il est impératif que le ministère prenne des mesures actives pour éviter toute forme de biais dans les systèmes de reconnaissance basés sur l’IA.
- Traçabilité : Le ministère doit être capable de démontrer la façon dont les technologies sont mises en œuvre et de comprendre leur fonctionnement.
- Fiabilité : Les systèmes d’IA doivent être conçus pour fonctionner efficacement dans un cadre d’utilisation précis, sans failles.
- Gouvernabilité : Les systèmes d’IA doivent posséder la capacité de détecter et d’éviter tout dommage ou interruption imprévu, évitant ainsi des dérives dangereuses.
Ces principes peuvent sembler vagues voire peu engageants à certains. Effectivement, leur approche générale et l’absence de directives concrètes soulèvent des questions légitimes quant à leur efficacité.
Les Critiques sur les Principes
Le site The Next Web a décrit ces principes comme étant « flous » et « sans mordant ». Dave Gershgorn de OneZero a même souligné que ces normes éthiques manquent de fond, ne faisant pas mention d’un principe fondamental comme « ne pas tuer avec un robot ». Le texte intégral des recommandations peut être consulté ici, afin que chacun puisse juger de leur pertinence.
FAQ
Que sont les principes éthiques de l’IA du Pentagone ?
Les principes éthiques sont des lignes directrices établies pour encadrer l’utilisation de l’intelligence artificielle dans le cadre militaire, afin d’assurer une utilisation responsable et équitable.
Qui est responsable de la création de ces principes ?
Le Defense Innovation Board, dirigé par Eric Schmidt, a été chargé d’élaborer ces recommandations, en réponse aux enjeux croissants liés à l’utilisation de l’IA dans le domaine militaire.
Quelles sont les conséquences si ces principes ne sont pas respectés ?
Le non-respect de ces principes pourrait conduire à des dérives éthiques dans les opérations militaires, et à des crises de confiance du public envers l’utilisation des technologies avancées par le gouvernement.
Comment ces principes peuvent-ils être mis en œuvre efficacement ?
Pour être efficaces, ces principes doivent être accompagnés par des formations, des protocoles stricts et des mécanismes de contrôle rigoureux au sein du ministère de la Défense.
Existe-t-il des précédents concernant l’éthique de l’IA dans les opérations militaires ?
Oui, des discussions autour de l’éthique de l’IA dans des contextes militaires existent depuis plusieurs années, souvent en lien avec des préoccupations concernant l’autonomie des systèmes d’armement et les impacts sur la vie humaine.
