Le Pape a publié un manuel sur l’éthique de l’IA. Oui, vous avez bien entendu.
Le Pape, en collaboration avec le Markkula Center for Applied Ethics de l’Université de Santa Clara, a mis sur pied l’Institut pour la Technologie, l’Éthique et la Culture (ITEC). D’après son site internet, cet institut a pour but de rassembler “des dirigeants d’entreprises, de la société civile, du monde académique, du gouvernement, ainsi que de toutes les traditions religieuses, afin de favoriser une réflexion approfondie sur l’impact de la technologie sur l’humanité.”
On peut le considérer comme un groupe de réflexion sur l’éthique de l’IA dirigé par le Vatican.
Sa première mission consiste à publier un manuel intitulé « Éthique à l’ère des technologies perturbatrices : une feuille de route opérationnelle », destiné à aider les entreprises technologiques à naviguer dans les nombreuses zones d’ombre de l’éthique de l’IA.
« Le Pape a toujours eu une vision vaste du monde et de l’humanité, et il est convaincu que la technologie peut être bénéfique », a déclaré le Père Brendan McGuire, un pasteur et conseiller de l’ITEC. Il a ajouté dans un entretien avec Gizmodo : « Mais à mesure que nous la développons, il est nécessaire de poser des questions plus profondes. »
« Des dirigeants des entreprises de la Silicon Valley viennent me voir depuis des années en disant : ‘Vous devez nous aider, il y a beaucoup de choses à venir et nous ne sommes pas prêts.’ », a-t-il ajouté. L’idée était d’exploiter le pouvoir d’influence du Vatican pour rassembler des responsables du monde entier.
Il est important de noter que le manuel ne se limite pas à l’IA et à l’apprentissage automatique. Il aborde également d’autres sujets comme le cryptage, le suivi et la reconnaissance faciale.
Cela dit, il semble que la course actuelle à l’IA soit la principale source d’inspiration du texte.
« Lorsque j’ai commencé à rencontrer et discuter avec des représentants de la Silicon Valley, notamment dans le domaine de l’intelligence artificielle et de l’apprentissage automatique, j’ai été frappé par leur volonté de maintenir des standards éthiques élevés, tant pour eux-mêmes que pour leur secteur », indique un chapitre d’ouverture du manuel, rédigé par l’évêque irlandais Paul Tighe.
« Cela est déjà évident à travers les nombreuses initiatives cherchant à garantir que la technologie soit au ‘service de l’humanité’, ‘pour le bien’, ‘axée sur l’humain’, ‘éthique par conception’ et ‘ouverte’ », a-t-il ajouté. « Cette volonté de respecter des normes éthiques montre à la fois un engagement intrinsèque à faire le bien et une aversion réaliste aux risques de dommages à la réputation et de préjudices commerciaux à long terme. »
En d’autres termes, les dirigeants d’entreprise semblent consciemment utiliser ces mots à la mode pour gagner la confiance — tout en améliorant leur rentabilité. Mais comment ces entreprises mettent-elles réellement en pratique leurs promesses centrées sur l’humain et leur engagement à “ne pas être malveillant”? Et au fond, quel est le lien avec le Pape?
Il ne faut pas se le cacher — dans d’autres passages de son chapitre, Tighe qualifie le manuel de « fruit d’une coopération inattendue », et l’Église catholique semble conscients des différences marquées entre leur institution parfois archaïque et la Silicon Valley.
Cela dit, l’existence de l’ITEC pourrait être vue comme un signe de la réalité et du pouvoir transformateur potentiel de l’IA. Après tout, Son Éminence n’a jamais publié un guide de 140 pages sur la cryptomonnaie.
Il est également essentiel de préciser que l’ITEC ne prétend pas que son manuel puisse remplacer l’intervention des gouvernements. En attendant que les régulateurs agissent — ce qui pourrait prendre un certain temps — l’institut affirme que leurs lignes directrices peuvent aider les entreprises émergentes à placer la santé des consommateurs et l’éthique au cœur de leurs préoccupations.
À condition qu’elles en aient l’intention.
« Des garde-fous majeurs sont absolument nécessaires, et les pays ainsi que les gouvernements les mettront en place avec le temps », a déclaré Brendan, qui, d’après certaines sources, ne sait pas si le Pape a utilisé ChatGPT, dans un entretien avec Gizmodo. « Cependant, ce livre joue un rôle important pour accélérer l’approche de la conception et de l’implémentation pour le consommateur. »
« C’est ici que nous essayons d’aider les entreprises à respecter les normes que nous devons atteindre bien avant l’échéance », a-t-il ajouté.
En savoir plus sur le Pape et l’IA : Cette image virale du Pape stylé est un faux AI, les amis.
### FAQ
#### Qu’est-ce que l’ITEC ?
L’Institut pour la Technologie, l’Éthique et la Culture (ITEC) est une initiative du Pape visant à discuter de l’impact de la technologie sur l’humanité en rassemblant des leaders de divers secteurs.
#### Quels sujets sont abordés dans le manuel ?
Le manuel traite de l’éthique de l’IA, mais aussi d’autres thèmes comme le cryptage, le suivi et la reconnaissance faciale, afin de donner un aperçu complet des défis éthiques posés par les nouvelles technologies.
#### Pourquoi le Pape s’intéresse-t-il à l’IA ?
Le Pape croit en l’importance de l’éthique dans le développement technologique, en considérant que la technologie peut être un outil positif pour l’humanité, à condition de respecter des normes éthiques.
#### Quel est l’effet des lignes directrices de l’ITEC sur les entreprises ?
Les lignes directrices visent à encourager les entreprises à adopter des pratiques éthiques en matière de technologie, même en l’absence d’une régulation gouvernementale rapide.
#### Y a-t-il des implications politiques à cette initiative ?
Oui, l’initiative du Pape pourrait influencer les discussions politiques autour de la régulation de la technologie, en plaçant la question de l’éthique au cœur des préoccupations des entreprises et des gouvernements.
