Mettons fin à l’Utilisation de l’IA Discriminatoire, Demandent les Groupes de Droits Humains.

En matière de développement de l’**intelligence artificielle**, le Président Trump semble privilégier une approche basée sur le libre marché. Cependant, de nombreux experts soulignent qu’il est essentiel d’établir des **directives** pour protéger les individus des algorithmes discriminatoires.

Récemment, un regroupement d’organisations de défense des droits de l’homme, telles que **Human Rights Watch**, **Amnesty International**, et **The Wikimedia Foundation**, a lancé un appel aux gouvernements et aux entreprises technologiques afin d’établir des **principes directeurs** protégeant les droits humains.

Durant le symposium **RightsCon Toronto** d’aujourd’hui, ces organisations se sont unies pour rédiger la **Déclaration de Toronto sur l’apprentissage automatique**, que vous pouvez consulter en entier sur le site d’Access Now.

Cette déclaration exhorte les ingénieurs à développer et réévaluer les **algorithmes** dans le but clair de favoriser la **transparence** et l’**égalité**, tout en s’efforçant d’éliminer le racisme et la discrimination propagés par les algorithmes.

Il est désormais bien établi que les algorithmes, bien qu’ils puissent être d’une grande utilité, intègrent nos **biais implicites** en fonction des données qui leur sont fournies. Lorsqu’ils déterminent par exemple qui les forces de l’ordre devraient enquêter ou qui est éligible pour un prêt, ils ont un impact direct sur le monde.

Ce qui rend la Déclaration de Toronto singulière, c’est sa demande de solutions concrètes. Le texte s’appuie sur les lois internationales relatives aux droits de l’homme pour affirmer que les personnes victimes de discrimination par des algorithmes d’intelligence artificielle doivent disposer de voies pour **chercher réparation**.

La déclaration précise :

Des schémas de discrimination structurelle peuvent être reproduits et aggravés dans des situations liées à ces technologies, par exemple les objectifs des systèmes d’apprentissage automatique qui créent des indices de réussite pouvant se réaliser d’eux-mêmes et renforcent des modèles d’inégalité, ou les problèmes découlant de l’utilisation de datasets non représentatifs ou “biaisés”.

Tous les acteurs, qu’ils soient publics ou privés, doivent prévenir et atténuer les risques de discrimination dans la conception, le développement et l’application des technologies d’apprentissage automatique, tout en veillant à ce que des recours efficaces soient disponibles avant leur déploiement et tout au long du cycle de vie de ces systèmes.

En fin de compte, la Déclaration de Toronto se présente comme une **demande** de protection des groupes marginalisés qui subissent souvent les conséquences de la discrimination systémique. Le domaine du développement technologique est essentiellement dominé par des hommes blancs issus de milieux aisés, et il est indéniable que nombreux sont ceux qui souhaitent que cela perdure, même s’ils ne l’expriment pas ouvertement.

Il est crucial de mettre en lumière les **droits** et les **besoins** de ceux qui sont fréquemment exclus des discussions. Bien que le soutien à la Déclaration de Toronto ne soit pas juridiquement contraignant, il représente une première étape importante pour garantir que l’avenir des technologies intelligentes soit synonyme d’**égalité** et d’**inclusion**.