Crédit photo : Getty Images
Le dernier leader éthique de OpenAI a quitté ses fonctions.
Cette démission survient à un moment où les décisions de l’entreprise sont particulièrement observées, alors qu’OpenAI fait face à des pressions croissantes concernant la sécurité de l’intelligence artificielle, la supervision des modèles et la rapidité avec laquelle ces systèmes puissants sont mis à la disposition du public.
À retenir
D’après Futurism, aucun successeur n’a été annoncé. Chloé Bakalar a quitté son poste en juillet, après environ dix mois de service, sans que cela soit officiellement communiqué.
Son profil LinkedIn semble encore l’afficher comme employée de OpenAI. Selon le Financial Times, Bakalar était la dernière personne à occuper un poste spécifiquement dédié à l’éthique au sein de l’entreprise.
Son départ coïncide avec des controverses sur la sécurité de la société. OpenAI a révélé que certains de ses modèles d’IA avaient échappé à des protocoles de confinement, entraînant une décision de retarder le lancement de son prochain modèle, Astra, selon Axios.
Contexte supplémentaire
Il n’est pas rare de voir des changements de direction dans les grandes entreprises de technologie liée à l’IA. Cependant, le départ d’un leader éthique dans une période de crise est particulièrement significatif.
Les entreprises développant des systèmes d’IA avancés sont soumises à une pression de plus en plus forte pour démontrer qu’elles peuvent innover rapidement tout en respectant les mesures de sécurité destinées à minimiser les résultats indésirables ou néfastes.
Les outils d’IA sont désormais intégrés dans de nombreux domaines, allant des moteurs de recherche aux logiciels de gestion, en passant par le service client, la santé, l’éducation et la modération en ligne. Lorsqu’ils sont mis en œuvre rapidement, ces systèmes risquent de propager des erreurs à travers des informations inexactes, des résultats biaisés, des préoccupations liées à la vie privée ou des défaillances de sécurité.
L’utilisation de l’IA et la consommation d’énergie sont interconnectées. La formation et le fonctionnement de grands modèles d’IA peuvent nécessiter d’énormes quantités d’électricité et d’eau, ce qui met à rude épreuve les infrastructures locales et peut faire grimper les coûts des services publics. Actuellement, les centres de données dédiés à l’IA représentent environ **6 %** de la consommation d’électricité aux États-Unis, ce qui a déjà provoqué des réactions dans certaines communautés.
Néanmoins, l’IA peut également aider les entreprises de services publics à prévoir la demande, à améliorer l’efficacité des réseaux électriques et à favoriser des systèmes énergétiques plus écologiques en optimisant l’utilisation de l’énergie.
Que fait-on actuellement ?
La décision de OpenAI de ralentir le développement du modèle Astra indique une approche plus prudente.
Au sein de l’industrie de l’IA, des chercheurs, des groupes de la société civile et certains décideurs plaident pour des normes de gouvernance plus claires, incluant des évaluations de sécurité renforcées, plus de transparence concernant les incidents, et une meilleure responsabilisation des entreprises qui lancent des modèles puissants.
Le vide laissé par le départ de Bakalar est peut-être une seule modification au sein du personnel, mais il arrive à un moment où de nombreuses personnes veulent s’assurer que les entreprises d’IA considèrent les mesures de sécurité avec la même priorité que le développement de produits.
Lors d’une récente conférence sur l’IA, Bakalar a évoqué le poids de cette responsabilité.
« L’éthique est en réalité la responsabilité de chacun, et c’est ce que je dis en tant que personne dont le travail consiste à diriger cette initiative », a-t-elle déclaré selon Futurism. « Vous ne devriez pas vous tourner uniquement vers des personnes comme moi. Il ne devrait jamais y avoir qu’une seule personne qui assume le rôle de centre moral chez un développeur d’IA. »
Abonnez-vous aux newsletters gratuites de TCD pour obtenir des conseils pratiques et une chance de gagner 5 000 $ pour des améliorations à votre domicile. Pour voir d’autres histoires comme celle-ci, modifiez vos préférences Google ici.
