Les défis de l’apprentissage pour l’IA
Des chercheurs de l’Université de l’Alberta, au Canada, ont récemment dévoilé un aspect préoccupant des modèles d’intelligence artificielle (IA) : ces systèmes ne parviennent pas à apprendre de manière continue. En d’autres termes, lorsqu’il s’agit d’assimiler de nouveaux concepts tout en profitant de leur formation précédente, ces algorithmes rencontrent de grandes difficultés.
Un processus complexe et coûteux
Les modèles d’IA basés sur l’apprentissage profond, tels que les modèles de langage avancés, s’appuient sur l’identification de schémas dans d’énormes volumes de données. Cependant, dès qu’une nouvelle information doit être intégrée, les résultats sont souvent décevants. Pour enseigner quelque chose de nouveau à ces modèles, il est généralement nécessaire de les reformer complètement. Si ce n’est pas fait, les neurones artificiels « s’éteignent », incitant à une perte de plasticité — c’est-à-dire leur capacité à apprendre de nouvelles choses.
Une analogie intéressante
Pour illustrer ce phénomène, Shibhansh Dohare, un scientifique de l’informatique de l’Université de l’Alberta et auteur principal de l’étude, compare la situation à celle d’un cerveau humain. Selon lui, cela serait semblable à avoir 90 % de nos neurones « inactifs », limitant drastiquement nos capacités d’apprentissage. Ceci pose une énorme contrainte pour les entreprises d’IA, qui doivent faire face à des coûts de formation exorbitants, pouvant s’élever à des millions de dollars lorsque les modèles sont très avancés.
Une quête d’intelligence générale
Cette incapacité à maintenir la plasticité représente un véritable obstacle à la création d’une intelligence artificielle générale (IAG), qui serait capable d’effectuer des tâches avec l’intelligence d’un humain. En effet, imaginez que, chaque fois que nous entamons un nouveau cours à l’université, nous devrions réinitialiser complètement notre cerveau. Cela soulève des questions sur la viabilité de l’apprentissage permanent dans les modèles d’IA.
Une lueur d’espoir
Cependant, tout n’est pas sombre. Les chercheurs ont réussi à concevoir un algorithme capable de réactiver certains neurones d’IA qui étaient considérés comme défaillants. Même si cette avancée représente un progrès significatif dans la lutte contre le problème de la plasticité, il reste encore un long chemin avant que l’on puisse dire qu’une solution efficace est à portée de main. Comme le souligne Dohare, trouver une résolution au naufrage de l’apprentissage continu pourrait avoir un impact financier majeur sur le secteur de l’IA, réduisant significativement les coûts de formation des modèles.
FAQ
Qu’est-ce que la plasticité dans le contexte de l’IA ?
La plasticité, dans les modèles d’IA, fait référence à la capacité d’un système à s’adapter et à apprendre de nouvelles informations sans perdre ce qui a déjà été appris.
Pourquoi est-il si coûteux de former des modèles d’IA avancés ?
Former ces modèles nécessite des ressources informatiques importantes et un volume conséquent de données, ce qui entraîne des coûts très élevés en matière de matériel et de temps de calcul.
Quels autres défis les entreprises d’IA rencontrent-elles ?
Outre la plasticité, les entreprises d’IA doivent également faire face à des enjeux tels que les biais dans les données, des problèmes éthiques, et le besoin d’efficacité énergétique.
Comment les chercheurs s’y prennent-ils pour améliorer l’apprentissage des IA ?
Ils explorent diverses approches, y compris l’introduction d’algorithmes qui tentent de réactiver des neurones inactifs et d’améliorer les architectures de réseau neuronal.
Quelle est l’importance de l’intelligence artificielle générale ?
L’intelligence artificielle générale serait la capacité d’un système à exécuter une large gamme de tâches intellectuelles, comme un humain, ce qui ouvrirait la voie à des avancées considérables dans divers domaines.
