L’annonce d’un départ marquant chez OpenAI :
Un des cadres importants dans le secteur matériel d’OpenAI a quitté ses fonctions, exprimant son mécontentement face à la rapidité avec laquelle l’entreprise a conclu un accord controversé avec le gouvernement américain concernant l’intelligence artificielle et l’armée.
Caitlin Kalinowski, qui a récemment été nommée pour diriger les initiatives de robotique et de matériel d’OpenAI, a partagé sa décision de démissionner ce samedi. Ce choix résulte de sa désapprobation concernant le récent accord permettant d’intégrer des modèles d’IA d’OpenAI au sein des réseaux classifiés du Pentagone, une manœuvre qu’elle estime avoir été précipitée.
Kalinowski n’a pas caché ses raisons de quitter l’entreprise. Sur les réseaux sociaux, notamment dans un post sur LinkedIn et X, elle a mentionné que sa décision était motivée par des préoccupations éthiques liées à la guerre moderne et à la sécurité intérieure.
Dans son message, elle a déclaré : « J’ai démissionné d’OpenAI. Je tiens énormément à l’équipe de robotique et aux efforts que nous avons fournis ensemble. Ce n’était pas une décision facile. » Elle a reconnu les défis de la défense moderne, mais a mis en avant certains principes qu’elle considère comme ayant été foulés au pied.
Kalinowski a précisé : « L’IA joue un rôle crucial dans la sécurité nationale. Toutefois, surveiller les citoyens américains sans contrôle judiciaire et développer des armes autonomes sans autorisation humaine sont des principes qui auraient dû être examinés avec plus de sérieux. »
Dans un autre post sur X, elle a souligné que son départ concernait avant tout la gouvernance de l’entreprise. Elle a exprimé sa préoccupation quant à la précipitation de certaines décisions, affirmant que ces questions requièrent une attention particulière et ne devraient pas être prises à la légère.
Cette démission met en lumière un fossé croissant au sein de la Silicon Valley concernant les contrats militaires. L’accord d’OpenAI avec le Département de la Défense a été établi peu après l’effondrement de la collaboration entre le gouvernement et la société concurrente Anthropic.
Anthropic avait insisté sur des limitations strictes quant à l’utilisation de sa technologie, ce qui avait amené l’administration de Donald Trump à la qualifier de « risque pour la chaîne d’approvisionnement. » En conséquence, OpenAI a profité de cette situation pour finaliser un accord permettant d’utiliser ses modèles sur des réseaux gouvernementaux classifiés.
Le moment de cet accord a suscité des interrogations même au sein d’OpenAI. Son PDG, Sam Altman, avait reconnu que son déploiement semblait « opportuniste et désordonné », même si l’entreprise a depuis tenté de clarifier ses limites.
La réaction d’OpenAI
Malgré ce départ notable, OpenAI reste ferme sur ses positions, affirmant avoir mis en place des systèmes de sécurité pour empêcher les dérives que craint Kalinowski.
Dans un communiqué adressé à Fortune, un porte-parole d’OpenAI a déclaré : « Nous pensons que notre accord avec le Pentagone ouvre un chemin viable pour l’utilisation responsable de l’IA en matière de sécurité nationale, tout en précisant nos lignes rouges : aucun surveillance domestique et aucune arme autonome. »
L’entreprise a également reconnu que ces questions suscitent des opinions fortes parmi le public et a promis de continuer à dialoguer avec ses employés et les groupes de la société civile.
Qui est Caitlin Kalinowski ?
Caitlin Kalinowski a rejoint OpenAI en novembre 2024, chargée de développer les initiatives en matière de matériel et de robotique de la société.
Avant d’intégrer OpenAI, elle avait passé plusieurs années chez Meta où elle avait contribué au développement de matériels de réalité augmentée, notamment les lunettes Orion. Dans sa carrière antérieure, elle avait également travaillé sur des casques de réalité virtuelle chez Oculus et passé près de six ans chez Apple, où elle avait participé à la conception des ordinateurs portables MacBook.
Au sein d’OpenAI, son rôle consistait à élargir les capacités matérielles de l’entreprise en cherchant à connecter des systèmes d’IA à des machines et des infrastructures physiques.
Bien qu’elle ait quitté l’entreprise, Kalinowski a indiqué qu’elle avait l’intention de continuer à œuvrer dans ce secteur d’activité.
À lire aussi : La confrontation d’Anthropic avec le Pentagone aide à comprendre pourquoi l’accord militaire d’OpenAI a suscité une forte réaction interne.
FAQ
Quelles sont les principales préoccupations éthiques évoquées par Caitlin Kalinowski ?
Caitlin Kalinowski s’inquiète des implications de l’utilisation de l’IA dans la surveillance sans contrôle judiciaire et le développement d’armes autonomes.
Pourquoi OpenAI a-t-elle choisi de collaborer avec le Pentagone ?
OpenAI a vu une opportunité de conclure un accord avec le Pentagone après l’échec de la collaboration entre le gouvernement et Anthropic, ce qui a permis d’exploiter ses modèles d’IA sur des réseaux classifiés.
Comment OpenAI prévoit-elle de gérer les critiques ?
OpenAI a promis de continuer à dialoguer avec ses employés et les groupes de la société civile pour aborder les préoccupations soulevées par les récentes décisions.
Quelle a été la réaction de Sam Altman concernant l’accord avec le Pentagone ?
Sam Altman a reconnu que le déploiement de l’accord avec le Pentagone était perçu comme « opportuniste et désordonné », mais l’entreprise a cherché à clarifier ses limites après cela.
Quel est le parcours professionnel de Caitlin Kalinowski avant de rejoindre OpenAI ?
Avant OpenAI, Kalinowski avait travaillé chez Meta sur des projets de réalité augmentée, chez Oculus sur des casques de réalité virtuelle, et elle avait également contribué à la conception des MacBook chez Apple.
