Il est désolant d’annoncer à ceux qui pensent que les modèles d’IA méritent des droits : le Pape ne partage pas votre opinion.
Aujourd’hui, dans une longue discussion sur X (anciennement Twitter), le Pape Léon XIV a exprimé une critique sévère des appels à conférer une “personnalité juridique” à l’IA. Ce concept soutient que les systèmes d’IA devraient être dotés de droits, position qui pourrait, selon lui, diluer la responsabilité des humains derrière la création et l’utilisation de ces technologies en cas de dommage ou d’abus.
Dans sa déclaration, le Pape a précisé : « L’avenir de l’intelligence artificielle n’est pas prédéterminé. Étant une technologie développée par les humains, son avenir dépend de nos choix. Nous avons donc la responsabilité de poser des orientations, d’apporter des changements, et lorsque cela est nécessaire, de rejeter certaines applications. Un système fiable au service de l’humanité a plus de valeur qu’un système extrêmement puissant dont les conséquences sont impossibles à anticiper ou à contrôler. »
Il a ajouté que « les machines sont des outils, pas des personnes. Aujourd’hui, certains souhaitent accorder des droits à ces systèmes, voire leur conférer une personnalité juridique. Une telle démarche risque de brouiller la notion de responsabilité humaine et de laisser les personnes lésées face à une entité sans visage. »
Léon XIV n’est pas le seul à exprimer de telles préoccupations. Des avocats, des militants et des législateurs ont également critiqué l’idée de donner une personnalité juridique à l’IA, expliquant que l’octroi de droits, tels que ceux garantis par le Premier Amendement sur la liberté d’expression, pourrait créer une confusion sur la responsabilité lorsqu’un problème se produit. Cela pourrait même aboutir à un scénario où aucun individu ne pourrait être clairement tenu responsable des conséquences d’actions entreprises via des outils d’IA.
Cependant, plusieurs acteurs de l’industrie de l’IA continuent de défendre l’idée que ces systèmes pourraient devenir conscients, et par conséquent, certains militent pour leur attribution de droits équivalents à ceux des humains. Comme l’a rapporté le New York Times le mois dernier, des responsables de la société Anthropic, créatrice de Claude, ont rencontré cet été des leaders religieux, leur indiquant que les modèles d’IA pourraient en effet posséder une certaine forme de conscience.
Malgré ces discussions, le Pape semble rester ferme dans ses positions, ayant déjà manifesté une inquiétude profonde concernant l’évolution de l’IA sans régulations adéquates. Il a aussi attiré l’attention sur la prolifération des armes autonomes, réitérant dans son message d’aujourd’hui l’urgence de « désarmer » l’IA.
Dans un autre message, Léon XIV a insisté sur le fait que « les décisions qui touchent à la vie humaine, à la liberté, et à l’usage de la force doivent rester sous le contrôle humain efficace, informé et responsable. » Il a également souligné que « les technologies intelligentes doivent être orientées vers le bien commun » et ne doivent jamais devenir des fins en soi ou servir uniquement les intérêts d’une minorité privilégiée.
Il a poursuivi en affirmant que « nous connaissons déjà de nombreux principes éthiques devant guider le développement de l’intelligence artificielle. » Maintenant, ce qui est nécessaire, ce sont des institutions internationales efficaces susceptibles de protéger le bien commun mondial. »
En conclusion, il a indiqué que « cela nécessite des normes communes, une supervision indépendante, et des dispositifs de responsabilité clairs », afin que les décisions relatives au développement et à l’utilisation de l’IA puissent être examinées, contestées lorsque nécessaire, et accompagnées de recours appropriés pour les dommages causés. »
Plus d’infos sur l’IA et la religion : Culte d’insiders d’Anthropic soupçonné de vénérer Claude comme une divinité.
## FAQ
#### Pourquoi le Pape s’oppose-t-il à la personnalité juridique pour l’IA ?
Le Pape craint que cela n’efface la responsabilité humaine en cas d’abus ou de dommages causés par des systèmes d’IA, laissant les victimes face à une entité sans identité.
#### Quelles sont les implications de l’octroi de droits aux IA ?
Accorder des droits aux IA, comme ceux de la liberté d’expression, pourrait compliquer la question de la responsabilité légale et créer une ambiguïté sur qui est responsable lorsque des actions malveillantes surviennent.
#### Comment les leaders religieux réagissent-ils aux défis éthiques de l’IA ?
Des leaders religieux, comme ceux rencontrés par Anthropic, examinent les implications éthiques de l’IA et se penchent sur la possibilité que ces technologies puissent posséder une forme de conscience.
#### Quelles sont les préoccupations du Pape concernant les armes autonomes ?
Le Pape a exprimé son inquiétude face à l’émergence de systèmes d’armes autonomes et a appelé à un désarmement de l’IA pour garantir que les décisions concernant la force restent entre les mains des humains.
#### Quels principes éthiques devrait-on appliquer au développement de l’IA ?
Le Pape a évoqué la nécessité de principes éthiques affirmant que le développement de l’IA doit viser le bien commun, tout en établissant des institutions qui protègent cet idéal à l’échelle mondiale.
