Un cadre supérieur d’OpenAI démissionne en signe de protestation.

Abonnez-vous pour découvrir dès aujourd’hui le futur.

        <div class="newsletter-cta-description"> 
            <p class="article-paragraph skip">Des innovations à ne pas manquer, à la pointe de la science et de la technologie.</p>
        </div>
    </div>
</div>

Un haut responsable d’OpenAI a décidé de quitter l’entreprise en raison d’un accord stipulant que sa technologie pourrait être utilisée par le ministère de la Défense.

Caitlin Kalinowski, qui était responsable des efforts sur le matériel et la robotique, a annoncé sa démission via les réseaux sociaux samedi dernier.

Elle a exprimé, dans un tweet: “Ce n’était pas une décision facile. L’intelligence artificielle joue un rôle crucial dans la **sécurité nationale**. Cependant, la surveillance des citoyens américains sans contrôle judiciaire et l’autonomie létale sans l’approbation d’humains sont des limites qui auraient dû faire l’objet de plus de discussions.”

Elle a précisé : “Il ne s’agissait pas de personnes, mais de principes”, tout en tenant à rappeler son **grand respect** pour le PDG Sam Altman.

Le mois dernier, OpenAI a conclu un nouvel accord avec le Pentagone alors qu’Anthropic, une entreprise concurrente, était menacée par d’anciens responsables de l’administration Trump pour ne pas avoir signé un accord similaire. Selon Dario Amodei, le PDG d’Anthropic, les discussions avaient échoué parce que son entreprise voulait interdire l’utilisation de ses systèmes d’IA dans la **surveillance de masse** et les **armes autonomes** sans intervention humaine. Face à cette position inflexible d’Anthropic, le Pentagone a décidé de couper court aux discussions, déclarant l’entreprise comme un “risque pour la chaîne d’approvisionnement”, l’empêchant ainsi de signer des contrats militaires.

Cela a conduit à un véritable désastre pour l’image d’OpenAI, de nombreuses personnes critiquant Altman pour sa collaboration avec une administration notoirement impopulaire. Au départ, OpenAI avait consenti à ce que ses systèmes d’IA soient utilisés pour “**tous les usages légaux**”, mais après une mobilisation forte, Altman a promis de modifier l’accord avec le Pentagone pour inclure des protections concernant la surveillance et les armements autonomes.

En résumé, OpenAI semblait trahir ses valeurs, tandis qu’Anthropic était perçue comme la championne de l’éthique. Cela a provoqué un exode massif d’utilisateurs d’OpenAI vers Claude, l’application d’Anthropic, qui a rapidement devancé ChatGPT dans l’App Store.

L’opposition ne venait pas seulement de l’extérieur; plus de **1 000** employés actuels et anciens d’OpenAI et de Google ont signé une lettre ouverte demandant à leurs employeurs de **refuser** les demandes du Pentagone concernant l’utilisation de la technologie IA pour la surveillance de masse et les armes autonomes.

Kalinowski, dans une explication de son départ, a souligné que le problème résidait dans le fait que l’annonce avait été trop précipitée, sans définir les **règles** nécessaires.

Elle a complété en précisant, dans un message ultérieur, que “la gouvernance est le principal enjeu”. Selon elle, ces décisions sont trop **cruciales** pour être prises à la légère.

Altman a lui-même reconnu que l’accord avait été “précipité” et que son apparence était loin d’être satisfaisante.

Dans un communiqué destiné aux médias, OpenAI a mis en avant son nouvel accord avec le Pentagone et ses **lignes rouges** claires : “aucune surveillance domestique et aucune arme autonome”.

L’entreprise a ajouté : “Nous reconnaissons que ces enjeux suscitent des opinions fortes et nous continuerons de dialoguer avec nos employés, les gouvernements, la société civile et les communautés du monde entier.”

Le départ de Kalinowski et l’indignation croissante à propos de l’accord militaire d’OpenAI s’inscrivent dans un contexte où les préoccupations concernant l’utilisation de l’IA dans les **conflits armés**, et en particulier dans des décisions qui pourraient entraîner des pertes humaines, n’ont jamais été aussi pressantes. Malgré la résistance publique d’Anthropic au ministère de la Défense, des rapports laissent entendre que Claude a été utilisé pour sélectionner des cibles lors des **frappes meurtrières** de missiles aux États-Unis en Iran. Bien que cela ne soit pas confirmé, il existe une possibilité inquiétante que l’une de ces cibles ait été une école pour filles à Minab, où au moins 168 personnes, principalement des enfants, ont été tragiquement tuées par un strike aérien probablement causé par un missile Tomahawk américain.

Plus d’informations sur OpenAI : La colère envers OpenAI a atteint un tel niveau qu’il y a désormais des manifestations contre l’entreprise.