Les progrès récents en matière d’**intelligence artificielle** nous montrent que nos ordinateurs doivent intégrer un **code moral**. En effet, imaginez une voiture roulant sur la route lorsqu’un enfant à vélo s’engage brusquement devant elle. Que doit faire la voiture ? Est-ce qu’elle déviera vers la voie opposée, percutant une autre voiture ? Est-ce qu’elle sortira de la route pour heurter un arbre ? Ou va-t-elle simplement avancer et toucher l’enfant ?
Chaque option comporte un risque mortel.
Cette situation est tragique, mais nous, en tant qu’êtres humains, sommes confrontés à de telles décisions chaque jour. Si une voiture autonome contrôle le véhicule, elle devra impérativement être capable de prendre des décisions morales. En d’autres termes, il est vital que nous apprenions à intégrer la **morale** dans nos systèmes informatiques.
Vincent Conitzer, professeur d’informatique à l’Université de Duke, et son collègue Walter Sinnott-Armstrong, philosophe à Duke, ont reçu un financement du Future of Life Institute pour explorer comment créer une **IA avancée** capable de porter des jugements moraux et d’agir en conséquence.
Développer la Morale
En première approche, la tâche peut sembler simple : concevoir une IA éthique. Cependant, cela s’avère bien plus complexe, car de nombreux facteurs influencent ces décisions. Comme le souligne le projet de Conitzer, « les jugements moraux dépendent de critères tels que les **droits** (comme le respect de la vie privée), les **rôles** (par exemple, au sein d’une famille), les actions passées (comme les promesses), ainsi que les **motivations** et **intentions**. Ces éléments n’ont pas encore été intégrés dans les systèmes d’IA.
C’est exactement ce que nous essayons de réaliser.
Dans une interview récente avec **Futurism**, Conitzer a précisé que, bien que le public s’inquiète des possibles dérives d’une IA hors de contrôle pouvant nuire à l’humanité, il ne s’agit pas d’une menace immédiate. Actuellement, son équipe ne se concentre pas sur la prévention d’une apocalypse robotique. Leur priorité est de s’assurer que nos systèmes d’IA puissent prendre des décisions morales difficiles que nous prenons quotidiennement.
Alors, comment construit-on une IA capable de décisions morales délicates ?
Conitzer explique que l’équipe adopte un processus en deux étapes : faire en sorte que des personnes prennent des décisions éthiques pour en déterminer les modèles, puis explorer comment ces modèles peuvent être traduits dans une **intelligence artificielle**. Il précise que leur objectif actuel est de demander aux individus de partager les choix éthiques qu’ils prendraient dans différentes situations, afin d’utiliser l’apprentissage automatique pour identifier des motifs communs.
En somme, l’équipe cherche à déceler des schémas dans nos choix moraux et à les traduire dans les systèmes d’IA. Conitzer fait remarquer que, dans une perspective basique, tout repose sur la capacité à prédire le comportement humain dans des situations spécifiques. S’ils réussissent à bien cerner quels types de décisions les humains prennent dans ces contextes éthiques, ils pourront intégrer ces décisions au sein d’un programme informatique.
Il se pourrait que notre démarche morale ne soit pas encore parvenue à son apogée.
Néanmoins, un défi majeur demeure : nos jugements moraux ne sont pas objectifs, ni universels. Conitzer souligne ce problème en regardant les décennies passées. Si nous avions réalisé les mêmes tests éthiques il y a cent ans, les résultats auraient été marqués par des préjugés racistes et sexistes que nous ne supporterions plus aujourd’hui. Ainsi, il existe un risque de biais, bloquant notre développement moral à notre niveau actuel.
De plus, il y a cette complexité inhérente à la morale. Le *pur altruisme*, facile à aborder en théorie des jeux, camoufle une réalité plus complexe où les dettes morales basées sur les actions passées entrent en jeu. Comment peut-on intégrer cela dans les **concepts de solution** en théorie des jeux ? Comment effectuer ces calculs ?
Pour résoudre ces questions et comprendre comment fonctionne la morale afin de pouvoir l’intégrer dans une IA, l’équipe combine des méthodes issues de l’**informatique**, de la **philosophie**, de l’**économie** et de la **psychologie**. Conitzer affirme que c’est là le cœur de leur projet.
Quand devrions-nous nous inquiéter des IA sensibles ?
L’IA Humaine
Selon Conitzer, nous n’aurons pas d’**intelligence artificielle** semblable à celle des humains avant un certain temps. Ainsi, pas d’**apocalypse à la Terminator** pour l’instant (du moins, pas dans les années à venir).
Il note qu’il y a eu des avancées récentes vers des systèmes plus sophistiqués, mais il reste encore loin du “vrai AI”, capable des **aptitudes flexibles** des humains. Cela nécessitera beaucoup de temps.
Bien que cela puisse sembler lointain, pour les informaticiens, cela ne veut pas dire que cela prendra des décennies.
Il est vrai que nous pouvons coder des systèmes pour effectuer de nombreuses tâches que nous maîtrisons, mais certaines opérations sont extrêmement complexes et difficiles à encapsuler dans des modèles informatiques.
Tout en explorant l’intelligence artificielle, les chercheurs ont réalisé que de nombreux benchmarks courants, comme bien jouer aux échecs, étaient en réalité accessibles aux ordinateurs. Bien que cela demande un effort considérable, il est faisable de créer un programme qui joue aux échecs. Aujourd’hui, des ordinateurs surpassent les meilleurs joueurs dans des jeux comme les échecs et le Go.
Cependant, Conitzer souligne que les jeux ne sont pas nécessairement un bon indicateur de l’intelligence humaine. Nombreux sont les problèmes simples pour les humains qui se révèlent difficiles à programmer pour les ordinateurs, comme reconnaître un visage familier dans une foule. Bien que nous ayons clairement fait des progrès, programmer une machine pour exécuter toutes les actions humaines reste un défi de taille, ce qui explique que le développement d’une “vraie IA” prendra du temps.
Il souligne également l’importance de commencer dès maintenant à réfléchir aux **règles** qui régiront ces intelligences. Cela peut sembler éloigné, mais pour les informaticiens, les décennies peuvent passer plus vite qu’on ne le pense. Les systèmes d’IA actuels prennent déjà des décisions morales susceptibles d’affecter des vies humaines.
Ainsi, des choix cruciaux sont déjà faits par des IA, comme celui d’une voiture autonome qui doit se décider : avancer et heurter un véhicule devant elle ou dévier et potentiellement blesser un piéton. Comment effectuer ces compromis ? Cela pourrait être amélioré sans recourir à une IA superintelligente, des programmes simples peuvent déjà gérer ce type de dilemmes.
En définitive, comprendre comment fonctionne notre morale sera essentiel pour pouvoir l’intégrer dans les intelligences artificielles, et c’est précisément ce sur quoi s’emploie Conitzer et son équipe.
Ainsi, nous rentrons dans l’ère des **robots moraux**.
Cette interview a été réduite pour des raisons de concision et de clarté.
FAQ
Qu’est-ce que la responsabilité morale pour une IA ?
La responsabilité morale d’une IA implique sa capacité à prendre des décisions qui reflètent une norme éthique, ce qui soulève des questions sur la façon dont la morale doit être programmée et interprétée par les machines.
Quelle est l’importance de l’éthique dans les décisions d’IA ?
L’éthique est cruciale dans les décisions prises par les IA, notamment dans des situations de crise où des choix peuvent affecter des vies humaines. Cela nécessite une compréhension claire des implications morales.
Existe-t-il des risques liés aux décisions prises par les IA ?
Oui, il existe un risque potentiel que les IA prennent des décisions biaisées ou inappropriées si elles ne sont pas correctement programmées avec des principes moraux adéquats.
Comment les chercheurs étudient-ils les choix éthiques des humains ?
Les chercheurs demandent aux personnes de décrire leurs décisions éthiques dans des situations spécifiques et utilisent des méthodes d’apprentissage automatique pour identifier des modèles dans ces choix.
Quand pourrions-nous voir des IA proches de l’intelligence humaine ?
Bien que des avancées aient été réalisées, les experts estiment qu’il faudra encore des décennies avant de développer une IA véritablement humaine, capable de raisonner et d’agir avec la même flexibilité que l’être humain.
