Une Machine Morale ?
Avec l’avancement du développement de l’intelligence artificielle (IA), les chercheurs s’interrogent sur la manière de doter les systèmes d’IA d’une éthique solide. Une approche populaire consiste à former l’IA à agir de manière éthique en s’inspirant des choix faits par des individus ordinaires.
Pour explorer cette idée, une équipe de MIT a mis sur pied la Moral Machine. Sur ce site, les utilisateurs étaient confrontés à des dilemmes moraux complexes concernant le comportement d’un véhicule autonome dans des situations souvent tragiques. Par exemple, si une voiture sans conducteur devait faire le choix entre écraser trois adultes ou deux enfants, quel chemin devrait-elle emprunter ? Devrions-nous sacrifier la vie d’une personne âgée pour sauver une femme enceinte ?
Moral Machine – Perspectives humaines sur l’éthique des machines
L’outil a généré une quantité considérable de données provenant d’un large public. Fort de ces résultats, Ariel Procaccia de l’Université Carnegie Mellon a décidé d’utiliser ces informations à bon escient.
Dans une récente étude, lui et Iyad Rahwan, un des contributeurs de la Moral Machine, ont utilisé ces données pour enseigner à une IA. L’objectif était de faire prédire à cette machine comment les humains souhaiteraient qu’une voiture autonome réagisse face à des scénarios similaires mais non encore éprouvés.
En somme, Procaccia cherchait à démontrer l’efficacité d’un système basé sur le vote pour résoudre les défis éthiques de l’IA. Son algorithme pourrait potentiellement décoder les intuitions morales collectives présentes dans les données recueillies. “Nous ne prétendons pas que le système est prêt à être déployé,” a-t-il déclaré à The Outline. “Mais c’est une preuve de concept montrant que la démocratie peut aider à relever le défi de la prise de décision éthique dans l’IA.”
Moralité Participative
Cette notion de choisir entre différentes issues moralement problématiques n’est pas une innovation. Les éthiciens utilisent d’ailleurs un terme spécifique pour cela : le double effet. Cependant, il n’a jamais été aussi crucial d’appliquer ce concept à des systèmes intelligents, ce qui suscite de nombreux débats parmi les experts.
Selon Elon Musk, co-président d’OpenAI, l’élaboration d’une IA éthique requiert des lignes directrices claires. Plusieurs gouvernements commencent à suivre son exemple. Par exemple, l’Allemagne a élaboré les premières lignes directrices éthiques au monde pour les voitures autonomes. De son côté, DeepMind, une fils d’Alphabet, a désormais sa propre unité consacrée à l’éthique et à la société.
D’autres spécialistes, comme une équipe de l’Université Duke, soutiennent que la solution réside dans la création d’un cadre général pour guider les décisions éthiques des IA. Selon eux, rassembler diverses visions morales d’un groupe pourrait engendrer un système plus abouti que celui conçu par un individu unique.
Le dilemme éthique des voitures autonomes – Patrick Lin
Cependant, cette méthode de moralité participative présente des limites. Une cohorte peut afficher des biais non présents dans une autre, et des algorithmes différents peuvent interpréter les mêmes données de manières divergentes.
Pour James Grimmelmann, professeur au Cornell School of Law, expert sur la relation entre logiciel, pouvoir et richesse, la notion de moralité participative est intrinsèquement problématique. “[Elle] ne fait pas de l’IA une entité éthique,” a-t-il déclaré à The Outline. “Elle rend l’IA éthique ou non, semblablement à la manière dont un grand nombre de personnes peuvent l’être.”
Bien que Reconnaissant ces limitations, Procaccia est optimiste quant à la possibilité de construire une IA morale. “La démocratie a ses défauts, mais j’y crois fermement,” conclut-il. “Même si des individus prennent des décisions avec lesquelles nous ne sommes pas d’accord, en général, la démocratie fonctionne.”
FAQ
Qu’est-ce que la Moral Machine ?
La Moral Machine est une plateforme qui recueille des décisions morales des utilisateurs concernant des dilemmes pour véhicules autonomes.
Pourquoi est-il important de créer une IA éthique ?
Une IA avec des décisions éthiques peut influencer positivement la société en minimisant les conséquences négatives lors de situations critiques.
Quelles sont les principales préoccupations liées à l’IA et à l’éthique ?
Les biais, la responsabilité en cas d’accident et la prise de décisions humaines face à des scénarios complexes sont parmi les préoccupations majeures.
Comment les gouvernements réagissent-ils aux défis éthiques de l’IA ?
De nombreux gouvernements, comme l’Allemagne, établissent des lignes directrices éthiques pour réguler le développement de l’IA.
Que peuvent faire les chercheurs pour améliorer l’éthique des IA ?
Les chercheurs peuvent élaborer des cadres généraux et impliquer le public dans la prise de décision en matière d’éthique de l’IA.