Sam Altman, le PDG d’OpenAI, est familiarisé avec le concept d’**intelligence artificielle générale** (AGI). Celui-ci représente le moment hypothétique où les machines pourraient réaliser des tâches intellectuelles au même niveau que les humains, voire mieux.
En ce qui concerne l’avenir de notre espèce sur Terre, Altman ressent des **réserves** vis-à-vis d’une technologie qui pourrait devenir trop puissante.
Avec le lancement du **chatbot révolutionnaire** ChatGPT, cette question est plus pertinente que jamais. Récemment, plus de **1 100 experts**, chefs d’entreprise et chercheurs, dont le PDG de SpaceX, **Elon Musk**, ont signé une lettre appelant à une pause de six mois sur les « **expériences IA** » qui pourraient dépasser GPT-4, le dernier modèle de langage lancé par OpenAI.
Certaines voix vont jusqu’à réclamer l’interdiction des **IA avancées**, suggérant même de « détruire un datacenter hors de contrôle par bombardement aérien » pour empêcher la propagation d’une AGI super-intelligente.
Pour Altman, ces craintes sont à la fois **rationnelles** et **exagérées**. Parfois, on dirait qu’il anticipe les besoins du moment : il évoque le **danger** pour créer du suspense et parle de **sécurité** lorsqu’il faut apaiser les esprits.
« Je m’efforce d’être transparent », confiait-il à The New York Times en 2019. « Suis-je en train de réaliser quelque chose de bénéfique ou de vraiment néfaste ? »
Cette question reste ouverte pour le PDG. À l’époque, il comparait le travail d’OpenAI à celui du **Manhattan Project**, le programme américain qui a développé la **bombe atomique** durant la Seconde Guerre mondiale. Il reconnaissait que l’AGI pourrait générer une immense richesse, mais il n’excluait pas qu’elle puisse également conduire à des **scénarios apocalyptiques**.
Avec la popularité grandissante de ChatGPT, et le débat sur la sécurité de l’IA qui atteint son paroxysme — ce qui a également enrichi OpenAI — Altman change aujourd’hui de **discours**.
Il soutient désormais que les préoccupations de la lettre récemment publiée sont **exagérées**. « L’engouement autour de ces systèmes — même si nous espérons le meilleur à long terme — est totalement démesuré à court terme », a-t-il déclaré dans une interview au NYT, soulignant que nous avons suffisamment de temps pour anticiper ces enjeux.
Dans de nombreux sens, cette position est **pratique** pour un PDG qui a directement profité de la commercialisation de technologies comme GPT-4.
« En une seule conversation, il représente les deux camps du débat », a affirmé Kelly Sims, conseiller au conseil d’administration d’OpenAI, au NYT.
Bien qu’il semble qu’Altman n’ait pas d’intérêt financier direct dans le succès économique d’OpenAI, il a tout à gagner à rassurer les investisseurs quant à l’absence de risques liés à une AGI menaçante.
Mais est-ce que l’argent motive réellement Altman, un investisseur qui a déjà amassé une fortune bien avant de diriger OpenAI ?
Selon son ancien mentor Paul Graham, cela pourrait être parce qu’**il apprécie le pouvoir**, et qu’il s’attaque à un projet qui ne le rendra pas nécessairement plus riche. Beaucoup d’individus ayant suffisamment d’argent agissent ainsi, et il est probable que Sam en fasse partie.
En résumé, Altman semble avoir la volonté de **transformer le monde**, même s’il n’est pas certain de la façon dont sa technologie le changera.
Peu importe s’il travaille sur une version moderne de la **bombe atomique**, capable d’anéantir l’humanité, ou sur une technologie qui pourrait contribuer à son salut.
Plus d’informations sur OpenAI : Une école privée de la Silicon Valley propose des “tuteurs IA” créés discrètement par OpenAI.
FAQ
Qu’est-ce que l’intelligence artificielle générale (AGI) ?
L’AGI désigne une intelligence artificielle capable de comprendre, apprendre et appliquer ses compétences de manière comparable à celle d’un humain.
Pourquoi Sam Altman compare-t-il OpenAI à le Manhattan Project ?
Il utilise cette comparaison pour illustrer l’importance et les implications éthiques potentielles des projets sur l’IA, tout comme le Manhattan Project a eu des conséquences étendues.
Quel impact a ChatGPT sur le marché de l’IA ?
Le lancement de ChatGPT a considérablement augmenté l’intérêt et l’investissement dans les technologies d’IA, générant également d’importants revenus pour OpenAI.
Quelles sont les préoccupations principales autour de l’AGI ?
Les inquiétudes principales incluent le risque d’une AGI qui pourrait agir de manière imprévisible et potentiellement nuire à l’humanité.
Quelles solutions sont proposées pour réguler l’IA avancée ?
Les experts appellent souvent à des moratoires, des règlements stricts ou des discussions ouvertes pour établir des normes éthiques et sécuritaires dans le développement de l’IA.
