## Mettez en avant vos réalisations
Un chercheur de Google Brain a mis au point un outil visant à aider les systèmes d’intelligence artificielle à expliquer leurs conclusions, une tâche souvent délicate pour les algorithmes d’apprentissage automatique.
Cet outil, nommé Testing with Concept Activation Vectors (TCAV), peut être intégré dans des algorithmes d’apprentissage automatique pour analyser l’importance qu’ils accordent à différents éléments ou types de données avant de produire des résultats, selon Quanta Magazine.
## Importance de la transparence
Des outils comme TCAV sont de plus en plus recherchés, alors que l’intelligence artificielle est soumise à un examen minutieux en raison des biais raciaux et de genre qui l’affectent, ainsi que des données utilisées pour sa formation.
Avec TCAV, les utilisateurs d’algorithmes de reconnaissance faciale pourraient déterminer dans quelle mesure la race a été prise en compte lors de la mise en correspondance de personnes avec une base de données de criminels connus ou lors de l’évaluation de candidatures. Cela permet aux utilisateurs de remettre en question, de rejeter, voire de corriger les conclusions d’un réseau neuronal, plutôt que de faire aveuglément confiance à la machine.
## Acceptable pour l’instant !
Been Kim, scientifique chez Google Brain, a déclaré à Quanta qu’elle ne recherche pas un outil capable d’expliquer pleinement le processus décisionnel de l’IA. Pour l’instant, il est suffisant d’avoir un outil susceptible de signaler des problèmes potentiels et d’offrir aux humains un moyen de comprendre où quelque chose a pu mal tourner.
Elle a comparé cela à lire les étiquettes de mise en garde d’une tronçonneuse avant d’abattre un arbre.
« Je ne comprends pas complètement le fonctionnement de la tronçonneuse, » a déclaré Kim à Quanta. « Mais le manuel met en garde : ‘Voici les précautions à prendre pour ne pas vous couper le doigt.’ Avec ces conseils, je préfère utiliser la tronçonneuse plutôt qu’une scie manuelle, qui, bien que plus simple, me ferait passer cinq heures à abattre l’arbre. »
A LIRE AUSSI : Une nouvelle approche pour comprendre la pensée des machines [Quanta Magazine]
En savoir plus sur les biais algorithmiques : Pour instaurer la confiance dans l’intelligence artificielle, IBM espère que les développeurs prouveront l’équité de leurs algorithmes.
### FAQ
#### Qu’est-ce que le TCAV ?
Le TCAV est un outil qui aide les systèmes d’intelligence artificielle à clarifier leurs prises de décision en identifiant les facteurs influents dans le traitement des données.
#### Pourquoi la transparence est-elle importante en IA ?
La transparence permet de détecter et de corriger les biais présents dans les algorithmes d’IA, contribuant ainsi à une utilisation plus éthique et responsable de ces technologies.
#### Comment TCAV peut-il aider à corriger les biais ?
En fournissant des informations sur les facteurs pris en compte par un algorithme, TCAV permet aux utilisateurs de remettre en question et éventuellement de modifier les décisions prises par l’IA.
#### Y a-t-il d’autres outils similaires à TCAV ?
Oui, plusieurs outils existent pour analyser les biais algorithmiques, mais TCAV est particulièrement apprécié pour sa capacité à offrir des explications sur les décisions de l’IA.
#### Qui peut bénéficier de l’outil TCAV ?
Les chercheurs, les développeurs et les entreprises utilisant des systèmes d’intelligence artificielle peuvent tirer profit de TCAV pour améliorer la transparence et l’équité de leurs algorithmes.