Des dirigeants d’OpenAI ont choqué leurs employés en proposant un plan jugé “insensé” qui visait à enrichir l’entreprise en opposant les gouvernements du monde.
Cette histoire, presque digne d’un méchant de bande dessinée, provient d’une enquête approfondie menée par The New Yorker sur Sam Altman, le PDG d’OpenAI. Cette enquête révèle son comportement troublant de mensonges et de manipulations pour établir son empire d’intelligence artificielle, un comportement que certains employés internes ont comparé à celui d’un véritable « sociopathe ».
Son bras droit, Greg Brockman, occupe également une place centrale dans ce récit. En 2017, il aurait mis en place un projet géopolitique, surnommé en interne le « plan des pays ». Pas convaincu par les conseils de son expert en éthique qui prônait la création d’un organisme international pour éviter une course aux armements semblable à celle des armes nucléaires, Brockman a ouvertement envisagé d’exploiter les grandes puissances comme la **Chine** et la **Russie** pour ses propres intérêts, notamment en amorçant une guerre de l’enchère pour sa technologie. D’après l’expert en éthique, Page Hedley, la logique de Brockman était : « Cela a fonctionné pour les armes nucléaires, pourquoi pas pour l’IA ? »
« Le principe, qu’ils n’ont pas contesté, était de dire : ‘Nous parlons potentiellement de la technologie la plus destructrice jamais inventée — et si nous la vendions à Poutine ?’ » a exprimé un Hedley exaspéré dans The New Yorker.
Jack Clark, alors directeur des politiques d’OpenAI, a qualifié cette idée de « dilemme du prisonnier, où toutes les nations doivent nous financer », indiquant que « ne pas nous financer revenait à agir de manière dangereuse ».
Un jeune chercheur a mentionné avoir pensé lors de la réunion où le plan a été discuté que c’était « complètement fou ». Ce projet a finalement été abandonné quelques mois plus tard, après que plusieurs employés aient menacé de démissionner.
Sur la dissension des employés, Hedley a déclaré que cela pesait davantage dans les calculs de Sam qu’en considérant que « ce n’était pas un bon plan car cela pouvait entraîner une guerre entre grandes puissances ».
Altman a également tenté de manipuler les gouvernements, notamment ceux des **États-Unis**.
À partir de 2017, il a régulièrement affirmé aux responsables du renseignement américain que la Chine aurait lancé un « projet Manhattan de l’AGI », en faisant référence à l’intelligence artificielle générale. Pour qu’OpenAI et, par extension, les États-Unis, maintiennent un équilibre, son entreprise aurait besoin de milliards de dollars de financement gouvernemental. Lorsque les responsables ont demandé des preuves, Altman a omis de répondre clairement, en disant simplement : « J’ai entendu des choses. »
Un des responsables ayant étudié ces allégations a conclu qu’Altman avait tout inventé : « C’était juste utilisé comme un argument de vente. »
D’après le rapport, Altman se compare à une figure semblable à Oppenheimer. Tandis que le physicien qui a travaillé sur la création de la bombe atomique a utilisé des « appels passionnés pour sauver le monde des nazis pour convaincre les physiciens de changer de vie », le rapport souligne qu’« Altman exploite les craintes liées aux enjeux géopolitiques de sa technologie ».
Plus sur l’IA : Les collègues de Sam Altman affirment qu’il peine à coder et ne comprend pas les concepts fondamentaux de l’apprentissage automatique.
FAQ
Qui est Sam Altman ?
Sam Altman est le PDG d’OpenAI, une organisation de recherche en intelligence artificielle. Il a joué un rôle clé dans le développement de technologies avancées en IA.
Quelles sont les préoccupations éthiques autour de l’IA ?
Les préoccupations incluent la sécurité, la vie privée, et le risque d’une course aux armements technologique entre nations, pouvant mener à des conséquences désastreuses.
Qu’est-ce qu’un « projet Manhattan de l’AGI » ?
Cette expression fait référence à une initiative présumée par la Chine visant à développer une intelligence artificielle générale, comparée à l’effort des États-Unis pour créer l’arme atomique durant la Seconde Guerre mondiale.
Quel est le dilemme du prisonnier en rapport avec l’IA ?
Il s’agit d’une situation où des pays doivent coopérer pour le bien collectif, mais où l’absence de coopération peut être préjudiciable à tous, illustrant les tensions potentielles dans le développement technologique.
Comment les employés d’OpenAI réagissent-ils aux décisions de la direction ?
Certains employés expriment des réserves et une désapprobation, allant jusqu’à menacer de quitter l’entreprise en raison de stratégies qu’ils considèrent comme dangereuses ou contraires à l’éthique.
