Les préoccupations face à l’IA
Un certain nombre de consommateurs s’inquiètent énormément de l’idée que l’intelligence artificielle (IA) prenne des décisions en leur nom. Selon une étude récente effectuée par Consumer Reports, une majorité écrasante de personnes interrogées aux États-Unis est réticente à l’idée que l’IA engage des choix cruciaux dans divers domaines tels que l’embauche, la banque, la location, les diagnostics médicaux et la surveillance.
Réactions face à l’IA dans l’embauche
Dans cette enquête, plus de 2000 personnes ont été sondées, et il a été révélé que 72 % d’entre elles se sentaient « inconfortables » à l’idée qu’une IA analyse leur visage et leurs réponses lors d’entretiens d’embauche. Pire encore, 45 % ont exprimé un grand malaise face à cette perspective.
Inquiétudes relatives à l’IA en banque et en location
Concernant le secteur bancaire, environ deux tiers des répondants ont déclaré qu’ils n’appuyaient pas l’utilisation de l’IA par les banques pour déterminer leur éligibilité aux prêts. Un pourcentage similaire a aussi fait part de son inconfort vis-à-vis de l’utilisation de l’IA par les propriétaires pour évaluer la candidature des locataires. Près de 40 % de ces personnes ont affirmé qu’elles étaient « très mal à l’aise » avec cette application potentielle.
Surveillance et diagnostics médicaux
La surveillance par reconnaissance faciale suscite aussi des réticences. Plus de la moitié des sondés se sont déclarés opposés à son utilisation, avec un tiers d’entre eux se disant « très mal à l’aise ». Quand il s’agit d’appliquer l’IA dans le diagnostic médical et la planification des traitements, la moitié des répondants a également mis en avant leur désaccord.
Besoin de transparence
Une majorité, soit 83 % des personnes interrogées, a exprimé le souhait de savoir quelles données sont utilisées pour former les algorithmes qui influencent leur vie. En outre, 91 % ont demandé un mécanisme permettant de corriger les informations erronées. Cela reflète une inquiétude légitime, surtout en sachant que l’IA peut souvent présenter des erreurs et parfois de manière discriminatoire.
Des entreprises et des gouvernements à l’offensive
Malgré ces préoccupations légitimes, certaines entreprises et même quelques gouvernements poursuivent l’implémentation de cette technologie encore balbutiante, souvent en quête de réduction des coûts liés au travail humain. Par exemple, le gouvernement de Californie, sous l’initiative de Gavin Newsom, a récemment annoncé un partenariat avec plusieurs entreprises d’IA pour tester l’utilisation de l’IA générative dans divers services publics touchant à la santé, au logement et aux impôts.
Dans le secteur privé, des institutions comme McKinsey et la Deutsche Bank semblent être pleinement engagées dans l’adoption de ces nouvelles technologies. Cependant, cela soulève des préoccupations quant à leur potentiel à reproduire des politiques de discrimination déjà présentes, connues sous le nom de redlining, dans le domaine financier.
Une direction à repenser
Bien que les retours du public soient clairs et insistants contre l’utilisation excessive de l’IA pour prendre des décisions, tant le secteur public que le secteur privé semblent disposés à ignorer ces préoccupations. Un regard sur l’histoire récente montre que les entreprises ont souvent privilégié l’adoption de nouvelles technologies sans tenir compte de l’opinion de leurs consommateurs.
FAQ
Qu’est-ce que le redlining ?
Le redlining est une pratique discriminatoire où des institutions financières limitent l’accès au crédit dans certaines communautés, souvent fondée sur des critères raciaux ou socio-économiques.
Comment l’IA peut-elle avoir des biais ?
L’IA peut avoir des biais en raison de la qualité des données utilisées pour l’entraîner, qui peuvent être biaisées elles-mêmes. Cela peut conduire à des décisions injustes ou discriminatoires dans des domaines comme l’embauche ou le crédit.
Quelles sont les alternatives à l’IA dans la prise de décision ?
Des approches plus humaines, comme la consultation d’experts et l’établissement de critères transparents pour la prise de décision, peuvent être envisagées pour éviter les biais résultant de l’IA.
Quels sont les enjeux éthiques de l’utilisation de l’IA ?
Les enjeux éthiques incluent la protection de la vie privée, la transparence dans les algorithmes et la nécessité d’éviter la discrimination dans les décisions prises par les systèmes d’IA.
Comment les citoyens peuvent-ils influencer les décisions concernant l’IA ?
Les citoyens peuvent faire entendre leur voix en s’engageant dans les discussions publiques sur l’IA, en participant à des sondages et en soutenant des initiatives qui prônent la transparence et l’éthique dans l’utilisation de l’IA.