Les inquiétudes autour d’OpenAI
Un ancien employé d’OpenAI, William Saunders, a récemment partagé ses raisons de quitter l’entreprise, révélant que ses préoccupations concernaient la sécurité. Selon lui, la compagnie ne semblait pas accorder la priorité nécessaire à la sécurité au profit de ses ambitions commerciales.
Parallèle avec le Titanic
Dans un podcast animé par Alex Kantrowitz, Saunders a employé une image évocatrice pour justifier sa décision de démissionner. Il a comparé OpenAI à un navire en perdition, déclarant : « Je ne voulais vraiment pas me retrouver à travailler pour le Titanic de l’intelligence artificielle. » Durant son séjour de trois ans chez OpenAI, il s’est régulièrement interrogé sur la direction que prenait l’entreprise : était-elle plus proche d’un programme ambitieux comme Apollo ou d’un désastre à venir comme le Titanic ?
Critiques des priorités d’OpenAI
Saunders a usé d’une métaphore en mentionnant que, bien que le Titanic ait été considéré comme insubmersible, il manquait de canots de sauvetage. En conséquence, de nombreuses vies ont été perdues lorsque le drame a frappé. D’après lui, OpenAI se concentre sur la création de nouveaux produits brillants, à l’instar de la société White Star Line, responsable du Titanic, laissant de côté des préoccupations fondamentales de sécurité.
L’importance de la sécurité dans le développement de l’IA
Les préoccupations soulevées par Saunders s’inscrivent dans un contexte plus large où des voix s’élèvent contre la manière dont des entreprises comme OpenAI développent des systèmes d’intelligence artificielle. L’idée d’une intelligence générale artificielle (AGI), un concept encore largement théorique, continue de susciter l’intérêt de dirigeants tels que Sam Altman, le CEO d’OpenAI.
Démission d’un team leader
La situation devient encore plus complexe avec la récente dissolution de l’équipe Superalignment, auspice de la sécurité. Sam Altman a pris la décision de dissoudre cette équipe pour créer un nouveau comité de sécurité et de sûreté, avec pour ambition de recentrer les efforts. Ilya Sutskever, ancien chef de cette équipe, a également annoncé le lancement d’une nouvelle entreprise dédiée à la sécurité de l’intelligence artificielle.
Perspectives sur l’avenir de la sécurité
Malgré les affirmations répétées d’Altman concernant un développement sûr de l’AGI, la stratégie d’OpenAI suscite des doutes. L’entreprise a parfois semblé plus intéressée par la mise sur le marché de nouveaux chatbots ou par le financement record, en coopérant avec de grandes entreprises telles que Microsoft.
Saunders espérait que l’approche d’OpenAI ressemblerait à celle de la NASA, capable de gérer les crises comme l’incident d’Apollo 13. Il a insiste sur le fait qu’« il n’est pas possible de développer l’AGI sans prendre de risques », mais il aspire à ce que l’entreprise mette en œuvre toutes les mesures raisonnables pour en minimiser les conséquences.
Réflexions finales
Les observations de Saunders peignent un tableau préoccupant de la direction prise par OpenAI, particulièrement pour ce qui est des créations et des décisions récentes d’Altman. Malgré un chemin potentiellement semé d’embûches, la technologie et ses implications restent encore à explorer pleinement.
FAQ
Qu’est-ce que l’intelligence générale artificielle (AGI) ?
L’AGI désigne une forme d’intelligence artificielle capable d’apprendre et de comprendre n’importe quelle tâche au même niveau qu’un humain.
Pourquoi la sécurité est-elle importante dans le développement de l’IA ?
La sécurité est cruciale pour éviter que des systèmes d’IA ne causent des dommages involontaires ou qu’ils soient détournés à des fins malveillantes.
Qui est Sam Altman ?
Sam Altman est le CEO d’OpenAI et un entrepreneur influent dans le domaine des technologies, reconnu pour son travail dans le développement de l’IA.
Quels sont les dangers perçus de l’IA ?
Les dangers de l’IA incluent des problèmes d’éthique, des biases, des préjugés dans les algorithmes, ainsi que des préoccupations sur la sécurité des systèmes autonomes.
Quelle est la réaction des anciens employés d’OpenAI ?
Plusieurs anciens employés ont exprimé leurs réserves sur la direction prise par la direction, dénonçant un manque de responsabilité et des préoccupations négligées.
