Les risques d’abus liés à l’intelligence artificielle
Lors d’une conférence au SXSW en mars 2017, Kate Crawford, chercheuse chez Microsoft, a exprimé des préoccupations majeures concernant l’intelligence artificielle (IA). Selon elle, les systèmes d’IA sont souvent susceptibles d’être utilisés de manière abusive, en raison de biais intégrés qui peuvent renforcer les inégalités sociales et permettre aux régimes autoritaires de centraliser leur pouvoir.
L’impact de l’IA dans un contexte autoritaire
Crawford a observé une montée inquiétante de l’ultra-nationalisme et de l’autoritarisme en même temps que les avancées de l’IA. Elle a mis en exergue les dangers potentiels de cette technologie, en soulignant que les biais humains présents dans les algorithmes peuvent être exploités pour cibler certaines populations, ce qui soulève des questions sur l’équité et la responsabilité.
Les implications des biais dans la codification
Pour illustrer ses propos, Crawford a évoqué une étude provenant de l’Université Shanghai Jiao Tong, où des chercheurs affirmaient avoir développé un système d’IA prétendument sans biais. Cependant, ce système s’est avéré former des jugements en associant certaines caractéristiques faciales à des comportements criminels. Ce type de réductionnisme montre comment les biais humains peuvent se manifester dans les algorithmes, que ce soit de manière inconsciente ou volontaire. Elle a précisé qu’il est essentiel de rester vigilant face à toute prétention d’objectivité des systèmes d’apprentissage automatique, car ces derniers sont souvent basés sur des données créées par des humains.
Les dérives possibles de l’IA
Les préoccupations de Crawford ne se limitent pas uniquement aux biais dans la codification. Elle met en garde contre des applications malveillantes de l’IA, comme la création de registres pour surveiller et discriminer certaines communautés. Elle a cité l’exemple de la machine de Hollerith utilisée par l’Allemagne nazie pour suivre des groupes ethniques, soulignant que l’IA pourrait raviver de telles pratiques inacceptables.
En parallèle, des recherches antérieures ont montré qu’il était possible de prédire avec une précision de plus de 80 % les affiliations politiques et religieuses des utilisateurs de Facebook, ce qui démontre l’évolution rapide de ces technologies.
Les enjeux de la transparence et de l’éthique
Crawford soutient que pour éviter les dérives de systèmes biaisés, il est crucial de travailler à ce que l’IA soit plus responsable et transparente. En recherchant des manières d’identifier et de comprendre les effets imprévus des algorithmes, il est possible de construire des systèmes plus éthiques. Elle a ainsi fondé la communauté de recherche AI Now, qui se concentre sur les impacts sociaux de l’IA en intégrant ces préoccupations.
FAQ
Qu’est-ce que l’intelligence artificielle (IA) ?
L’intelligence artificielle fait référence à des systèmes informatiques capables d’exécuter des tâches normalement réservées à l’homme, comme la prise de décision, l’apprentissage et la reconnaissance de patterns.
Comment les biais influencent-ils l’IA ?
Les biais peuvent être introduits dans l’IA par les données sur lesquelles les systèmes sont entraînés. Si ces données contiennent des préjugés, les décisions prises par l’IA peuvent également être biaisées.
Quelles sont les conséquences potentielles d’un usage abusif de l’IA ?
Un usage abusif de l’IA peut mener à la discrimination, à des violations des droits de l’homme, et à la concentration du pouvoir entre les mains de quelques personnes ou régimes autoritaires.
Que fait l’initiative AI Now ?
AI Now est une initiative visant à étudier et à promouvoir une utilisation de l’IA qui soit socialement équitable et respectueuse des droits humains, en se concentrant sur les impacts éthiques et sociétaux de cette technologie.
Pourquoi est-il important d’évaluer l’impact social de l’IA ?
Évaluer l’impact social de l’IA est essentiel pour anticiper et mitiger les effets négatifs potentiels sur la société, afin de garantir que son développement contribue positivement au bien-être général.
