L’IA à l’épreuve de la complexité
Une étude, ancienne mais récemment remise en lumière, suggère que les grands modèles de langage (LLM) ne sont pas capables d’accomplir des tâches computationnelles complexes. Ce constat, publié sur le site Wired, présente une analyse mathématique démontrant que ces modèles ont des limites bien définies, souvent plus basses qu’on ne l’imaginait.
Une étude controversée
Cette recherche, rédigée par Vishal Sikka, ancien directeur technique de SAP, et son fils Varin, n’a pas été soumise à l’examen par les pairs. Sikka est un expert en intelligence artificielle ayant été l’élève de John McCarthy, un pionnier dans ce domaine. Il souligne que les LLM, malgré leurs promesses, ne devraient pas être considérés comme fiables.
Lors d’une interview, Vishal Sikka a même suggéré que toute notion d’agents IA gérant des centrales nucléaires est irréaliste et devrait être mise de côté. Les discussions des PDG technologiques, souvent remplies d’hyperboles, ne reflètent pas nécessairement la réalité sur le terrain.
Les limites des LLM
Les chercheurs, y compris ceux d’OpenAI, admettent que les hallucinations de l’IA — des cas où les LLM inventent des faits — demeurent un problème majeur, même dans des systèmes de plus en plus avancés. Ils conservent la position que la précision des modèles ne pourrait jamais atteindre 100 %. Cela impacte la viabilité des projets d’agents IA, conçus pour fonctionner de manière autonome. Certaines entreprises qui ont tenté de remplacer des employés par ces agents ont vite compris qu’ils n’étaient pas prêts pour une telle tâche.
Malgré leurs lacunes, les responsables du secteur affirment qu’il est possible d’introduire des garde-fous externes pour filtrer les hallucinations. Certes, les LLM peuvent commettre des erreurs, mais si ces erreurs deviennent suffisamment rares, les entreprises pourraient commencer à leur confier des responsabilités traditionnellement réservées aux humains. Toutefois, les mêmes chercheurs admettent la difficulté d’atteindre cette fiabilité.
Vers une solution ?
Bien que Vishal Sikka estime que les LLM ont des limites intrinsèques, il reconnaît aussi que des composants peuvent être intégrés autour des modèles pour atténuer ces problèmes. Cela offre une lueur d’espoir pour le développement futur des LLM.
FAQ
Qu’est-ce qu’un modèle de langage ?
Un modèle de langage est un type d’intelligence artificielle conçu pour comprendre et générer du texte, en apprenant à partir de vastes ensembles de données linguistiques.
Quelles sont les implications des hallucinations de l’IA ?
Les hallucinations d’un modèle IA peuvent mener à la diffusion de fausses informations et à une perte de confiance, rendant leur utilisation problématique dans des domaines critiques.
Comment les industries peuvent-elles intégrer l’IA de manière sécurisée ?
Les industries doivent mettre en place des systèmes de vérification et des protocoles de contrôle permettant de surveiller les décisions prises par l’IA pour garantir leur fiabilité avant de leur confier des tâches importantes.
Y a-t-il des limites éthiques à l’utilisation de l’IA ?
Oui, les considérations éthiques incluent la responsabilité des décisions prises par l’IA, la protection des données personnelles et la transparence des algorithmes.
Que promet l’avenir pour l’intelligence artificielle ?
L’avenir de l’IA pourrait voir des avancées avec des modèles hybrides combinant les forces des LLM avec d’autres technologies, tout en abordant les défis éthiques et techniques actuels.
