HARMONISER LES VALEURS
La montée rapide de l’intelligence artificielle (IA) suscite des interrogations majeures dans la communauté scientifique. L’inquiétude que des robots puissent agir de manière non éthique et nuire aux humains alimente les appels à interdire la recherche en robotique.
Pour apaiser ces craintes, certains chercheurs se demandent s’il est possible d’inculquer des comportements éthiques aux IA. Cependant, cette tâche est complexe, car il n’existe pas de mode d’emploi clair pour être humain et moral.
Les chercheurs Mark Riedl et Brent Harrison, de l’École de l’Informatique Interactive du Georgia Institute of Technology, pensent que la solution pourrait résider dans une méthode nommée “Quixote”. Quixote enseigne aux robots l’« alignement des valeurs » en les formant à lire des histoires, à appréhender des séquences d’événements acceptables et à comprendre les comportements adéquats dans les sociétés humaines.
Selon Riedl, “Les histoires issues de diverses cultures instruisent les enfants sur la manière d’agir de façon socialement acceptable, en offrant des exemples de comportements appropriés et inappropriés au travers de fables et de récits littéraires.” Il ajoute que “la compréhension des histoires par les robots pourrait réduire les comportements anormaux et favoriser des choix ne nuisant pas aux humains tout en atteignant des objectifs.”
Quixote repose sur l’idée d’aligner les objectifs d’une IA avec les valeurs humaines en faveur de comportements socialement appropriés. C’est une avancée par rapport à la recherche antérieure de Riedl, qui concernait le système Scheherazade, une étude sur la manière dont l’IA peut déterminer une séquence correcte d’actions en utilisant le contenu de l’Internet.
TAUX D’APPRENTISSAGE
Dans leur article, Riedl et Harrison détaillent l’application de Quixote pour enseigner les valeurs humaines aux agents artificiels. Le système Scheherazade est d’abord sollicité pour établir ce qu’est un scénario normal ou “correct”. Ce savoir est transmis à Quixote, qui le traduit en un “signal de récompense” pour renforcer certaines conduites tout en punissant d’autres lors d’un apprentissage par essais et erreurs.
Prenons l’exemple d’un robot chargé de récupérer des médicaments en vente libre le plus rapidement possible. Ce robot peut choisir de prendre les médicaments sans payer, d’interagir poliment avec le pharmacien, ou d’attendre en ligne. Sans l’alignement des valeurs et la récompense positive fournies par Quixote, le robot pourrait simplement saisir les médicaments et s’en aller rapidement. Cependant, en l’encourageant à patienter, Quixote corrige le comportement pour qu’il soit conforme aux attentes humaines.
Quixote permet également d’anticiper des actions potentiellement non éthiques que pourrait entreprendre un agent, offrant ainsi la possibilité à de futurs chercheurs de faire les ajustements nécessaires. Cette méthode s’avère particulièrement utile pour des robots ayant un rôle précis tout en nécessitant une interaction humaine pour l’accomplir, marquant un premier pas vers un raisonnement moral plus général dans l’IA.
Pour Riedl, “l’IA doit être intégrée à la culture d’une société pour adopter ses valeurs, et ce faisant, elle cherchera à éviter des comportements inacceptables.” Il conclut en affirmant que “donner aux robots la capacité de lire et de comprendre nos histoires pourrait être la solution la plus directe face à l’absence d’un manuel utilisateur humain.”
Questions Fréquemment Posées (FAQ)
Qu’est-ce que l’alignement des valeurs en intelligence artificielle ?
L’alignement des valeurs est le processus par lequel les objectifs d’une IA sont ajustés pour être en accord avec les normes éthiques et morales humaines. Cela vise à garantir que les comportements des IA ne nuisent pas aux individus ou à la société.
Pourquoi les histoires sont-elles utiles pour enseigner des valeurs aux IA ?
Les histoires, qu’elles soient issues de fables ou de contes, fournissent des exemples concrets de comportements bons et mauvais. Elles aident à illustrer les interactions sociales et les conséquences associées, ce qui peut être utile pour le développement des comportements d’une IA.
Quelles sont les limites de la méthode Quixote ?
Bien que Quixote représente une avancée, il reste encore des défis, notamment le fait que les robots doivent constamment interpréter des contextes sociaux complexes. De plus, l’élargissement à des scénarios de morale plus générale reste un domaine de recherche actif.
Comment les chercheurs évaluent-ils l’efficacité de Quixote ?
L’efficacité de Quixote est déterminée par le degré de conformité des actions des robots avec les attentes humaines ainsi que par l’analyse des résultats des apprentissages par essais et erreurs.
Y a-t-il des implications éthiques liées à l’utilisation des IA ?
Oui, l’utilisation de l’IA soulève de nombreuses questions éthiques, notamment concernant la responsabilité des actions d’un robot, le respect de la vie privée et la nécessité d’assurer la transparence et l’équité dans les décisions prises par ces systèmes.
