Un changement de cap chez OpenAI
OpenAI, l’organisation fondée pour promouvoir une intelligence artificielle ouverte et bénéfique, semble s’éloigner de ses valeurs initiales. Créée en 2016 avec l’intention de partager des recherches, l’entreprise a maintenant adopté une approche ferme et commerciale. Alors que ses technologies sont devenues de plus en plus propriétaires, des préoccupations émergent concernant la transparence et l’intégrité de ses recherches.
Des tensions internes
Récemment, des informations indiquent que certains employés, déçus par un climat de censure, ont décidé de quitter OpenAI. Parmi eux se trouve Tom Cunningham, un chercheur en économie qui a exprimé son déscontentement concernant la direction de l’équipe de recherche, la qualifiant de propagande au service de l’entreprise plutôt que d’une véritable enquête scientifique. Après son départ, Jason Kwon, le directeur de la stratégie d’OpenAI, a souligné dans un mémo que l’entreprise devrait se concentrer sur la construction de solutions plutôt que de publier des recherches sur des sujets plus sensibles.
Une stratégie économique en évolution
Le rapport de Wired souligne que l’entreprise devient de plus en plus réservée sur la publication d’études qui pourraient révéler le côté moins reluisant de l’intelligence artificielle, notamment ses impacts économiques négatifs. Ce changement de cap est significatif, car OpenAI, qui était à l’origine une organisation à but non lucratif, se transforme peu à peu en une société commerciale visant à générer des milliards de dollars grâce à des investissements et des partenariats avec des géants comme Microsoft.
Une dynamique de marché controversée
Dans un contexte où OpenAI reçoit des investissements d’ordre de milliards de dollars pour ses innovations, le fait de partager des résultats susceptibles d’inquiéter le public pourrait nuire à sa réputation et à sa valeur marchande. L’entreprise est acculée par des préoccupations croissantes sur les effets de ses technologies, qui pourraient menacer des milliers d’emplois et engendrer des risques existentiels pour la société.
Des voix qui se lèvent
La situation n’est pas isolée : d’autres employés, comme William Saunders, ancien membre de l’équipe “Superalignment”, ont exprimé leurs préoccupations éthiques sur la priorité accordée à l’innovation au détriment de la sécurité des utilisateurs. Également, Steven Adler, un ancien chercheur dédié à la sécurité, a critiqué la manière dont OpenAI développe ses technologies, évoquant les crises mentales et les spirales délirantes que certains utilisateurs de ChatGPT expérimentent.
FAQ
Quelle est la mission initiale d’OpenAI ?
OpenAI a été fondée pour promouvoir et développer l’intelligence artificielle de manière ouverte et bénéfique, en s’assurant que les avancées technologiques profitent à l’ensemble de l’humanité.
Quels sont les impacts économiques possibles de l’IA selon OpenAI ?
Les recherches précédentes d’OpenAI ont exploré les effets potentiels de l’IA sur le marché du travail, suggérant que l’automatisation pourrait causer la disparition de certains emplois tout en en créant de nouveaux.
Qui est à la tête de la recherche économique chez OpenAI ?
Aaron Chatterji supervise actuellement l’équipe de recherche économique d’OpenAI, réalisant des études pour démontrer comment l’utilisation de ChatGPT peut générer de la valeur économique.
Quelles préoccupations éthiques sont soulevées autour d’OpenAI ?
Les anciens employés comme Tom Cunningham et William Saunders ont signalé que l’approche commerciale de l’entreprise pouvait mener à des compromis sur la sécurité utilisateur et sur la publication de résultats non biaisés.
Quelles sont les attentes concernant la prochaine introduction en bourse d’OpenAI ?
Des rapports suggèrent qu’OpenAI pourrait envisager de devenir une entreprise cotée en bourse avec une évaluation atteignant 1 trillion de dollars, ce qui en ferait l’une des plus grandes introductions en bourse de l’histoire.
