Les inquiétudes d’Emmett Shear sur l’IA
Il est fascinant d’observer qu’Emmett Shear, actuellement à la tête d’OpenAI dans un contexte de turbulence managériale, partage des opinions pour le moins étonnantes sur l’intelligence artificielle. En tant que nouveau PDG par intérim de cette entreprise, Shear semble adopter un point de vue pessimiste qui contraste avec les aspirations généralement optimistes de l’industrie.
Un conservateur du pessimisme
Dans une récente interview diffusée en juin, Shear a fait part de ses préoccupations concernant l’avenir de l’IA, affirmant qu’il adhérait aux idées d’Eliezer Yudkowsky, un scientifique connu pour son approche alarmiste vis-à-vis de cette technologie. Dans cette conversation avec le présentateur Logan Bartlett, il a clairement indiqué qu’il considère l’argument du « doom » proposé par Yudkowsky comme pertinent. Ce dernier prédit des conséquences catastrophiques potentielles engendrées par l’émergence de l’intelligence générale artificielle (AGI).
Shear a dans ce contexte reconnu : « J’adhère à son raisonnement pessimiste et à sa logique. » Cette admission est d’autant plus frappante qu’elle reflète une véritable inquiétude quant aux développements futurs de l’IA.
Des probabilités troublantes
Yudkowsky a acquis une notoriété, parfois jugée négative, en tant qu’alerte sur les dangers de l’IA au cours de la dernière décennie. Depuis la sortie de ChatGPT, ses avertissements se sont amplifiés, incluant même des appels à des mesures extrêmes comme le bombardement de centres de données liés à l’IA pour empêcher de potentiels désastres. Shear, bien qu’il n’adhère pas entièrement à cette vision apocalyptique, a exprimé une probabilité de 5 à 50 % de voir se matérialiser des conséquences désastreuses liées à la technologie qu’il supervise désormais.
Ce point de vue est partagé par d’autres chercheurs en IA, comme Paul Christiano, qui met également en avant des risques significatifs pour l’humanité. Il a déclaré que la probabilité d’une annihilation par l’IA se situait entre 25 et 50 %. Shear souligne qu’une majorité de chercheurs en IA exprime des préoccupations similaires, ce qui devrait susciter une réaction sérieuse dans la communauté.
Une approche controversée
Les commentaires de Shear, récemment relayés, ne sont pas isolés. Ce dirigeant d’OpenAI s’est également auto-désigné comme un “doom” et a prodigué des réflexions qui soulèvent des interrogations éthiques. Ses propos sur des thèmes très sensibles, tels que des fantasmes violents, suscitent un choc et interrogent la pertinence de ses idées sur l’IA. Dans un élan provocateur, il a même insinué qu’une domination nazie pourrait être préférable à une IA très risquée, soulignant ainsi les profondes angoisses qui l’environnent.
Ceci plante un décor assez troublant : le responsable d’OpenAI, en plein tumulte suite au licenciement de Sam Altman, est un sceptique de l’IA aux tweets polémiques.
FAQ
Que pense Eliezer Yudkowsky de l’IA ?
Yudkowsky est un des critiques les plus éminents de l’intelligence artificielle, mettant en garde contre des conséquences potentielles désastreuses.
Emmett Shear a-t-il toujours ce point de vue ?
Les opinions de Shear semblent avoir évolué, d’abord en tant que cofondateur de Twitch à son rôle actuel chez OpenAI, où il exprime des craintes sur l’avenir de l’IA.
Quel impact ces opinions peuvent-elles avoir ?
L’exposition de telles positions sur l’IA par des figures importantes pourrait influencer les débats sur la régulation et le développement de la technologie.
Quels autres chercheurs partagent ces préoccupations ?
Des chercheurs comme Paul Christiano, associés à OpenAI, ont également exprimé des préoccupations similaires quant aux dangers que l’IA pourrait poser.
Comment la communauté technologique réagit-elle à ces avertissements ?
La communauté reste divisée, certains appelant à une régulation stricte, tandis que d’autres plaident pour un développement sans entrave de l’intelligence artificielle.
