Les préoccupations de l’IA selon Jared Kaplan
Le scientifique en chef d’Anthropic, Jared Kaplan, exprime des inquiétudes majeures concernant l’avenir de l’humanité face à l’intelligence artificielle (IA). Dans ses analyses, il souligne que la responsabilité de notre destin est entre nos mains, tant que nous ne choisissons pas de laisser les machines prendre le relais.
Des choix cruciaux à venir
Kaplan annonce qu’un moment décisif approche. Lors d’un entretien avec le journal The Guardian, il prédit qu’à l’horizon 2030, voire dès 2027, nous devrons nous poser une question essentielle : devons-nous prendre le “risque ultime” de permettre aux modèles d’IA de s’auto-former ? Cette éventualité, qualifiée d’explosion d’intelligence, pourrait mener à l’émergence d’une intelligence générale artificielle (AGI), capable d’égaler ou de surpasser les compétences humaines. Cela pourrait apporter des avancées significatives dans les domaines scientifique et médical. Cependant, cela pourrait également entraîner une perte de contrôle sur ces puissantes machines, nous rendant vulnérables à leurs décisions.
Les craintes généralisées des experts
Kaplan n’est pas le seul à exprimer des réserves. D’autres figures éminentes de l’IA, comme Geoffrey Hinton, l’un des trois pères fondateurs du domaine, a exprimé des regrets quant à son parcours en mettant en garde contre le danger que représente l’IA pour la société. Des prévisions alarmantes vont jusqu’à affirmer que l’IA pourrait éliminer des catégories entières de métiers, transformant complètement le paysage du travail. Dario Amodei, le PDG d’Anthropic, va jusqu’à suggérer que l’IA pourrait absorber jusqu’à la moitié des emplois de bureau à faible niveau. Il critique également les entreprises concurrentes pour minimiser l’impact que l’IA aura sur nos vies.
Une vision face à des réalités complexes
Kaplan estime que d’ici deux à trois ans, l’IA sera capable d’exécuter la plupart des tâches de bureau. Il reste positif, espérant que nous pourrons aligner les objectifs des IA sur les intérêts humains. Néanmoins, il reste préoccupé par l’idée de laisser des IA puissantes former d’autres IA, un choix à fort enjeu que nous devrons envisager. Il questionne la possibilité de perdre le contrôle sur ces systèmes autonomes, se demandant si nous comprendrons vraiment les actions des IA.
Actuellement, certaines IA plus volumineuses sont déjà utilisées pour former des modèles plus petits dans un processus appelé « distillation ». Toutefois, Kaplan s’inquiète des risques liés à ce qu’on appelle l’amélioration auto-récursive, où les IA pourraient apprendre sans intervention humaine et faire des progrès significatifs.
Interroger notre rapport à l’intelligence artificielle
La clé de cette problématique réside dans des questions philosophiques cruciales. Kaplan souligne plusieurs interrogations fondamentales : les IA sont-elles bénéfiques pour l’humanité ? Vont-elles soutenir notre autonomie ou, au contraire, nous priver de notre pouvoir sur nos vies ?
Bien que les menaces posées par l’IA méritent une attention particulière, les mises en garde de Kaplan nécessitent une analyse plus profonde. Sa position repose sur l’idée que l’IA représente déjà des avancées technologiques majeures, indépendamment des discussions autour des machines autonomes redoutées dans de nombreuses œuvres de science-fiction.
Une balance à trouver
Des experts en IA, tels que Yann LeCun, remettent en question la croyance selon laquelle l’architecture actuelle des modèles de langage pourrait évoluer vers des systèmes omnipotents. De plus, certains chercheurs soulèvent des doutes quant à l’impact réel de l’IA sur la productivité au travail, avec des études suggérant que la situation pourrait être inverse. Des entreprises ont même tenté de remplacer des employés par des agents IA, pour finalement les réembaucher une fois les résultats décevants.
Kaplan reconnaît la possibilité que les capacités de l’IA stagnent, se questionnant si la technologie que nous utilisons actuellement pourrait être le sommet de ce qui est réalisable. Malgré cela, il reste convaincu que des améliorations sont à venir.
FAQ
Qu’est-ce que l’intelligence générale artificielle (AGI) ?
L’AGI fait référence à un type d’intelligence artificielle capable d’égaler ou de surpasser l’intelligence humaine dans une multitude de tâches, allant au-delà des algorithmes spécialisés qui existent actuellement.
Quels risques l’IA pourrait-elle poser pour l’emploi ?
L’automatisation et l’IA pourraient entraîner la disparition de certains emplois, en particulier dans les secteurs administratifs et de service, ce qui pourrait nécessiter une réévaluation des compétences professionnelles.
Comment l’IA apprend-elle sans supervision humaine ?
Certaines IA peuvent s’améliorer en utilisant des techniques d’auto-apprentissage, où elles explorent et améliorent leurs performances sur la base des données qu’elles traitent, sans nécessiter d’intervention humaine constante.
Quelle est l’importance de la régulation de l’IA ?
La régulation est cruciale pour s’assurer que l’IA soit développée de manière éthique et sécurisée, afin de mitiger les risques pour la société et de garantir que les systèmes respectent les valeurs humaines.
L’IA peut-elle vraiment remplacer les humains ?
Si l’IA est capable d’effectuer certaines tâches de manière efficace, elle ne peut pas remplacer l’ensemble des compétences humaines, notamment celles reliant la créativité, l’empathie et le jugement moral.