Changements Majeurs
Il fut un temps où OpenAI n’était connu que dans la région de la Baie de San Francisco. À cette époque, Ilya Sutskever, l’un des cofondateurs et le scientifique en chef de l’entreprise, avait déjà averti que la technologie développée par OpenAI allait transformer le monde, mais pas nécessairement de manière bénéfique pour l’humanité.
Sutskever a partagé sa vision avec la documentariste Tonje Hessen Schei, dans un mini-documentaire réalisé par The Guardian. Selon lui, l’intelligence artificielle pourrait résoudre de nombreux enjeux actuels comme l’emploi, les maladies et la pauvreté. Toutefois, il a aussi précisé qu’elle générerait de nouveaux défis.
Ce mini-documentaire, filmé entre 2016 et 2019, souligne la réflexion d’un homme qui savait déjà que la technologie qu’il aidait à construire, notamment celle à la base de ChatGPT, allait avoir un impact révolutionnaire. Les équipes d’OpenAI étaient conscientes des implications de leur création bien avant sa large adoption.
Ilya : le scientifique en intelligence artificielle qui façonne le monde
L’égarement de l’AGI
Dans ce même court-métrage, Sutskever se montrait optimiste quant à la possibilité d’atteindre l’intelligence générale artificielle (AGI) rapidement. Bien que les définitions varient, il décrit l’AGI comme un système informatique capable d’accomplir n’importe quelle tâche humaine, mais de manière plus efficace.
Il n’aborde pas directement la question, mais ce spécialiste de l’apprentissage automatique, qui avait mentionné en 2022 que certains grands modèles de langage (LLM) pouvaient être « légèrement conscients », évoque également le concept d’alignement de l’IA. Cela consiste à s’assurer que les intelligences artificielles, actuelles et futures, soient créées pour être en adéquation avec nos objectifs, peu importe ce qu’ils peuvent être.
Sutskever a fait une analogie avec la manière dont les humains traitent les animaux. Ce n’est pas par haine que nous leur faisons du mal, mais parce que cela nous semble plus simple.
Il dit : « Je pense qu’une bonne analogie serait la façon dont les humains traitent les animaux. Nous ne les haïssons pas, nous avons même souvent de l’affection pour eux. Mais quand il s’agit de construire une route entre deux villes, nous ne demandons pas leur avis. Nous agissons simplement parce que cela nous semble nécessaire. »
Il a poursuivi en affirmant que c’est sans doute ainsi que se comporteront les AGIs :
« Ce sera le genre de relation qui va exister entre nous et les AGIs, qui seront véritablement autonomes et agiront en leur propre intérêt. »
C’est une perspective inquiétante, mais Sutskever n’a pas semblé inquiet. Il a seulement mentionné qu’il sera capital que les humains « programment les AGIs correctement ».
Il a conclu en affirmant : « Si cela n’est pas fait, alors la nature de l’évolution et de la sélection naturelle favorisera les systèmes qui donneront priorité à leur propre survie. »
Pas du tout pessimiste, n’est-ce pas ?
À retenir sur l’AGI : Un dirigeant de Google a déclaré qu’il y avait 50 % de chances d’atteindre l’AGI dans les cinq prochaines années.
FAQ
Quelle est la définition de l’AGI ?
L’AGI, ou intelligence générale artificielle, est un type d’intelligence artificielle capable d’effectuer n’importe quelle tâche intellectuelle humaine de manière plus efficace.
Quelles conséquences l’AGI pourrait-elle avoir ?
Elle pourrait résoudre des problèmes tels que l’emploi et la maladie, mais aussi créer de nouveaux défis éthiques et pratiques.
Qu’est-ce que l’alignement de l’IA ?
L’alignement de l’IA est une démarche visant à développer des intelligences artificielles qui agissent en accord avec les valeurs et les objectifs humains.
Pourquoi est-il essentiel de programmer correctement les AGIs ?
Une mauvaise programmation pourrait conduire à des AGIs qui priorisent leur propre survie, au détriment de l’humanité.
La technologie d’OpenAI a-t-elle déjà un impact sur notre vie quotidienne ?
Oui, des applications comme ChatGPT ont commencé à influencer divers secteurs, allant de l’éducation à la santé, en passant par le service client.
Cela peut vous intéresser
