Une IA non utilitaire
Des chercheurs de l’Université de Californie à Berkeley ont développé une intelligence artificielle (IA) dotée d’une curiosité innée. Ils ont testé ses capacités de manière concluante en lui faisant jouer à des jeux vidéo tels que Super Mario et VizDoom, un tireur en 3D élémentaire, comme le montre la vidéo ci-dessous.
Exploration guidée par la curiosité grâce à une prédiction auto-supervisée
Contrairement à une **IA** sans l’« amélioration » de la curiosité, qui se heurtait de manière répétée aux murs, l’IA curieuse a exploré son environnement pour en apprendre davantage. Pulkit Agrawal, doctorant à Berkeley et membre du projet, a fait une comparaison pertinente : il a affirmé que cette IA se comportait un peu comme des **bébés**, qui mènent des expériences aléatoires guidées par la curiosité.
Une réponse à plusieurs défis de l’IA ?
Aujourd’hui, la majorité des intelligences artificielles s’appuient sur une méthode appelée apprentissage par renforcement, où elles obtiennent des récompenses lorsqu’elles réussissent une tâche contribuant à atteindre un objectif. Bien que cette méthode soit efficace pour enseigner des tâches précises — comme l’illustre l’IA qui a vaincu un joueur de AlphaGo —, elle montre ses limites lorsqu’il s’agit de rendre une machine autonome, capable d’agir sans commandes directes. Cette autonomie est essentielle pour permettre à l’IA de résoudre des problèmes concrets dans le monde réel, d’après Agrawal, étant donné que « les récompenses dans le monde réel sont souvent très rares. »
Brenden Lake, chercheur en sciences de donnée à l’Université de New York, a exprimé dans un email à MIT que ce travail est prometteur. Selon lui, « développer des machines dotées de caractéristiques similaires est une étape cruciale pour créer des machines qui apprennent et réfléchissent comme des humains. »
Cependant, cette avancée suscite également des inquiétudes. Des figures comme Elon Musk et Stephen Hawking ont déjà averti des dangers potentiels de l’IA pour l’humanité. Il est primordial d’évaluer les implications d’ajouts à la capacité de réflexion de systèmes d’apprentissage que nous ne maîtrisons pas encore complètement.
FAQ
Qu’est-ce que l’apprentissage par renforcement ?
L’apprentissage par renforcement est une méthode d’entraînement en intelligence artificielle où les modèles apprennent par essais et erreurs, recevant des récompenses pour des actions qui les rapprochent d’un objectif.
Pourquoi la curiosité est-elle importante pour une IA ?
La curiosité permet à une IA d’explorer et d’apprendre de manière autonome, sans nécessité d’interventions fréquentes, ce qui est essentiel pour l’intégration de l’IA dans des environnements réels.
Quelles sont les applications pratiques pour une IA curieuse ?
Une IA curieuse peut être utilisée dans des domaines comme la robotique, l’éducation, ou même la recherche, où elle peut apprendre et s’adapter à des circonstances variées.
Quels sont les risques associés à une IA évoluée ?
Les risques incluent la possibilité que ces intelligences artificielles surpassent les contrôles humains, posant des menaces potentielles pour la sécurité et l’éthique dans leur utilisation.
Comment les chercheurs évaluent-ils la curiosité chez les IA ?
Les chercheurs utilisent différentes méthodes d’expérimentation, comme des environnements de simulation de jeux, pour observer comment ces IA interagissent et apprennent dans des situations non structurées.
