OpenAI Réinvente Ses Valeurs : Un Changement Radical et Éthique

## Intelligence Artificielle, En Général

Récemment, OpenAI a discrètement modifié sa liste de « valeurs fondamentales » pour y inclure un accent sur l’intelligence artificielle générale (AGI), une notion qui n’était pas explicitement mentionnée auparavant.

Comme le rapporte Semafor, l’entreprise avait indiqué, jusqu’au 21 septembre, des valeurs telles que “Audacieuse”, “Réfléchie”, “Simple”, “Axée sur l’impact”, “Collaborative” et “Orientée vers la croissance” sur une page consacrée aux offres d’emploi, selon une copie d’écran sur Internet Archive.

Cependant, en consultant cette page aujourd’hui, on découvre que la liste a totalement changé, avec “Focus sur l’AGI” comme première valeur. Les nouvelles valeurs fondamentales incluent également : “Intensité et débrouillardise”, “Échelle”, “Créer quelque chose que les gens adorent”, et “Esprit d’équipe”.

Bien que cela puisse sembler être du jargon d’entreprise, cela soulève une question : si l’on peut changer ses valeurs fondamentales aussi facilement, étaient-elles réellement fondamentales dès le départ ?

## Un Coup de Fouet !

Focalisons-nous sur cette première valeur, “Focus sur l’AGI”, qui illustre parfaitement à quel point les termes privilégiés de l’entreprise semblent en constante évolution.

En février, le PDG d’OpenAI, Sam Altman, a déclaré dans un article de blog de l’entreprise que l’AGI pouvait être définie comme “des systèmes généralement plus intelligents que les humains”. Toutefois, lors d’une interview publiée le mois dernier dans New York Magazine, il a ajusté cette définition en la réduisant à une AI qui pourrait correspondre à “l’équivalent d’un humain moyen pouvant être engagé en tant que collègue”.

Mais alors, quelle est la véritable position d’OpenAI ? Pense-t-on réellement que l’AGI sera une intelligence artificielle surhumaine, ou se limite-t-on à un niveau d’intelligence équivalent à celui d’une personne ordinaire ?

## Les Marées Changent

Nous avons tenté de contacter OpenAI pour dissiper cette large incohérence dans la définition de l’AGI, mais il est peu probable que la réponse soit claire rapidement, compte tenu de l’évolution des objectifs de l’entreprise qui ont, tout comme ses valeurs, changé au fil du temps.

Fondée en 2015 par Sam Altman, Elon Musk et d’autres, dont la majorité ne sont plus impliqués, OpenAI a été créée comme un laboratoire de recherche à but non lucratif visant à développer une intelligence artificielle bénéfique pour contrer les IA nuisibles. Bien que l’entreprise continue à faire référence à cet objectif d’origine, son passage vers un modèle lucratif a entraîné le départ de Musk en 2019, et cette transformation semble s’être reflétée dans la façon dont elle se présente elle-même.

Ainsi, la nouvelle liste des valeurs paraît plutôt superficielle. Cependant, elle témoigne d’une orientation claire d’OpenAI vers un objectif unique à l’avenir.

“Nous sommes engagés à construire une AGI sûre et bénéfique, qui aura un impact positif massif sur l’avenir de l’humanité”, explique désormais la page des offres d’emploi d’OpenAI. “Tout ce qui ne contribue pas à cela ne fait pas partie de notre champ d’action.”

À en savoir plus sur OpenAI : L’utilisation de l’électricité par l’IA est en forte augmentation, et elle consommera bientôt autant d’énergie qu’un pays entier.