L’Intelligence Artificielle et son Évolution
En 2011, le lancement de Siri par Apple a suscité de grandes attentes parmi les utilisateurs d’iPhone concernant les assistants personnels intelligents. Malgré les capacités impressionnantes de Siri, celle-ci commet souvent des erreurs, ce qui révèle les limites de l’IA actuelle : les machines intelligentes d’aujourd’hui peinent à saisir la diversité et l’évolution des besoins humains.
Les Perspectives d’un Avenir Meilleur
Cependant, les progrès de l’intelligence artificielle laissent entrevoir un avenir où les machines pourraient comprendre le monde mieux que nous. Bien que l’on puisse expliquer facilement les erreurs de Siri, déterminer la logique derrière les décisions d’une IA superintelligente sera beaucoup plus complexe.
Si nous ne parvenons pas à comprendre et à évaluer ces machines, comment pourrions-nous alors les contrôler ?
Des Solutions Innovantes
Un chercheur de l’Université de Californie à Berkeley, Paul Christiano, s’emploie à résoudre cette question cruciale. Selon lui, il est essentiel d’apprendre à mesurer la performance des machines intelligentes pour garantir un développement sûr et bénéfique de l’IA, même lorsque celles-ci surpassent l’intelligence humaine.
L’Apprentissage Semi-Supervisé
La manière la plus évidente de superviser l’évolution d’un système d’IA est également la plus difficile. Christiano explique que l’une des façons pour les humains de communiquer leurs besoins est de passer énormément de temps à analyser des décisions en particulier prises par l’IA. Cela dit, il est impossible de vérifier chaque décision prise par ces machines, car le temps nécessaire à cette analyse peut être démesuré. Par exemple, une décision prise en une seconde peut nécessiter des heures d’évaluation.
Imaginez qu’un joueur d’échecs amateur cherche à comprendre un coup réalisé par un meilleur joueur. Pour ce faire, une simple évaluation de quelques minutes ne suffira pas. Un examen approfondi de plusieurs heures pourrait potentiellement lui donner l’ensemble des alternatives possibles et une compréhension significative du jeu.
Heureusement, il n’est pas nécessaire d’évaluer chaque décision prise par une IA. Les chercheurs peuvent se concentrer sur des choix particulièrement intéressants pour réduire leur incertitude.
L’Importance du Feed-back
Supposons que votre téléphone vous alerte d’un événement dans le calendrier alors que vous êtes en communication. Cette alerte peut sembler inappropriée et engendrer une réaction négative de votre part. Cependant, si un expert en IA est plus capable d’analyser les conséquences d’une telle interruption, il pourrait être judicieux de lui laisser le soin de décider si cette interruption était justifiée ou non.
Dans de telles situations, l’idée avancée par Christiano consiste à utiliser des machines intelligentes pour évaluer les décisions d’autres IA. Par exemple, un système moins performant pourrait évaluer un système plus avancé, même si ce dernier est plus intelligent. Grâce à cette approche, les formateurs humains continuent d’apporter une supervision tout en se concentrant sur des tâches moins complexes.
L’assurance des valeurs humaines dans l’IA
À mesure que les entreprises comme Google perfectionnent leurs machines, le rôle des formateurs humains devient de moins en moins central. À terme, une machine évaluera le comportement d’une autre machine. L’objectif est que chaque nouvelle machine soit conçue pour modéliser les valeurs humaines, mais Christiano s’inquiète de leur potentiel à s’éloigner de ces valeurs en surpassant notre intelligence.
Pour résoudre ces problématiques de contrôle, Christiano travaille sur une approche détaillée de l’apprentissage automatique pour comprendre comment les systèmes d’IA plus avancés peuvent être évalués par des systèmes moins avancés. Son but est de créer des intelligences artificielles fiables.
FAQ
Qu’est-ce que l’apprentissage semi-supervisé ?
L’apprentissage semi-supervisé est une méthode qui combine des exemples étiquetés (pour entraîner l’IA) et des exemples non étiquetés (pour améliorer les performances sans nécessité d’étiquetage exhaustif) afin d’optimiser les résultats de l’IA.
Comment les machines peuvent-elles comprendre les émotions humaines ?
Les recherches avancent dans l’analyse des émotions humaines par le biais de vocalisations, d’expressions faciales, et d’autres indicateurs comportementaux qui aident les machines à évaluer comment elles doivent agir.
Pourquoi est-il important de rester vigilant face à l’IA ?
Il est essentiel de veiller à ce que les machines respectent nos valeurs éthiques et sociétales. Une IA qui opère sans supervision humaine pourrait prendre des décisions qui ne correspondent pas à nos normes ou à nos attentes.
Quelles sont les implications éthiques liées à l’IA superintelligente ?
La montée en puissance d’AIs superintelligentes pose des dilemmes éthiques. Il faudra définir comment ces machines sont contrôlées pour s’assurer qu’elles ne nuisent pas à l’humanité, surtout en matière de prise de décision autonome.
Comment Paul Christiano envisage-t-il l’avenir de l’IA ?
Christiano croit que pour rendre l’IA plus sécurisée et efficace, il est crucial de développer des méthodes permettant de contrôler et d’évaluer les machines d’une manière compatible avec nos valeurs humaines.
