Attendre
Le collectif d’experts en intelligence artificielle, AI Now, a récemment publié son rapport annuel, portant sur l’évolution du domaine. Ce sont surtout les implications sociétales de cette technologie qui ont été mises en avant.
Le document dévoile des préoccupations sérieuses, comme le souligne le MIT Technology Review. Ce dernier indique que des outils d’intelligence artificielle, notamment ceux dédiés à la reconnaissance faciale et à la détection émotionnelle, peuvent être très imprécis et renforcer des biais raciaux et de genre. Par conséquent, il est préconisé de les écarter de notre société.
Intervenir
Le rapport appelle à un encadrement plus rigoureux de la part des gouvernements ainsi que des entreprises technologiques qui continuent à développer ces outils défectueux. L’idée est claire : tant que la technologie n’est pas prouvée à la fois juste et précise, son utilisation devrait être suspendue, jusqu’à ce que les régulateurs trouvent une manière de la maîtriser.
La première recommandation insiste sur le fait que, compte tenu des fondements scientifiques litigieux de la technologie de reconnaissance affective, cette dernière ne devrait pas avoir d’influence sur des décisions cruciales touchant à la vie humaine. Cela inclut des domaines tels que les recrutements, les évaluations d’assurance, les jugements sur la douleur des patients, ou encore les performances scolaires.
À LIRE AUSSI : La technologie de reconnaissance émotionnelle devrait être interdite, selon un institut de recherche sur l’IA [MIT Technology Review]
En savoir plus sur l’IA : La ville d’Oakland vote pour interdire la reconnaissance faciale
FAQ
Qu’est-ce que la reconnaissance émotionnelle ?
Il s’agit d’une technologie qui tente d’analyser les expressions faciales pour déduire les émotions et les traits de personnalité d’un individu.
Pourquoi est-il important de réguler l’IA ?
Une régulation est essentielle pour prévenir des abus potentiels et garantir une utilisation éthique de ces technologies, surtout dans des domaines sensibles.
Quels sont les risques associés à la reconnaissance faciale ?
Les risques incluent des erreurs d’identification, des violations de la vie privée et la perpétuation de biais existants, ce qui peut conduire à des discriminations.
Quels organismes surveillent l’utilisation de l’IA ?
Des institutions gouvernementales et des organisations indépendantes cherchent à établir des normes et des régulations pour garantir une utilisation responsable.
Comment les entreprises peuvent-elles introduire des pratiques éthiques dans le développement de l’IA ?
Les entreprises doivent intégrer une démarche éthique dès la phase de conception, en impliquant des experts de divers domaines pour minimiser les biais et garantir l’équité.