Pourquoi s’inquiéter d’une critique musicale acerbe lorsque l’on vit à l’ère de l’IA ?
Cela semble être le cas pour Ashley MacIsaac, un artiste canadien, connu comme violoniste, chanteur et compositeur, qui a été injustement désigné comme délinquant sexuel par un résumé de l’IA de Google.
Selon des informations relayées par le quotidien canadien The Globe and Mail, les organisateurs d’un événement de la Première Nation Sipekne’katik, au nord de Halifax, ont annulé un concert prévu avec MacIsaac suite à cette erreur.
Le journal indique que ce dérapage découle d’un **résumé d’IA** de Google — un aperçu succinct que l’entreprise affiche au-dessus des résultats de recherche, qui a mélangé la biographie du musicien avec celle de quelqu’un d’autre portant le même nom.
Ashley MacIsaac a déclaré au journal : « Google a fait une erreur et cela m’a mis dans une situation délicate. »
Malgré la mise à jour de l’aperçu d’IA, MacIsaac souligne que cela pose un *énorme problème* pour lui en tant qu’artiste en tournée. En effet, il est impossible de savoir combien d’autres organisateurs ont choisi de ne pas faire appel à lui à cause de cette diffamation, ou combien de futurs spectateurs ont eu une idée erronée sans recevoir de correction.
« Les gens doivent vérifier leur présence en ligne pour s’assurer qu’il n’y a pas de confusion avec d’autres personnes ayant le même nom », a-t-il déclaré au Globe.
Suite à cette révélation, la Première Nation Sipekne’katik a présenté ses excuses et a exprimé le souhait de recevoir à nouveau le musicien à l’avenir.
Dans une lettre envoyée au journal, un porte-parole a écrit : « Nous regrettons profondément le tort que cette erreur a causé à votre réputation, votre moyen de subsistance, et votre sentiment de sécurité personnelle. Il est crucial de souligner que cette situation était due à une **erreur d’identité** provoquée par l’IA, et non une réflection de qui vous êtes réellement. »
Un représentant de Google a, par ailleurs, précisé que « la recherche, y compris les résumés d’IA, évolue constamment pour offrir les informations les plus précises. Lorsque des problèmes se présentent — par exemple si nos outils interprètent mal le contenu web ou si des éléments de contexte manquent — nous utilisons ces cas pour améliorer nos systèmes et agir conformément à nos politiques. »
Cependant, comme le souligne MacIsaac, le risque lié à la réputation est difficile à réparer. On ne peut pas savoir à quel point cette désinformation a pu se répandre — et lorsque des entreprises adoptent des logiciels manifestement défaillants, qui est responsable des conséquences ?
À lire sur Google : Google Accusé de Remplacer les Titres d’Articles par des Contenus Générés par IA
FAQ
Quel est le véritable impact de cette erreur de l’IA sur la carrière de MacIsaac ?
La confusion a conduit à l’annulation de performances et a potentiellement nui à sa réputation auprès d’autres organisateurs d’événements.
Quelles mesures ont été prises par Google suite à cette situation ?
Google a affirmé qu’ils travaillent à améliorer leurs systèmes d’IA afin d’éviter de telles erreurs à l’avenir.
Pourquoi les erreurs d’IA sont-elles préoccupantes dans le monde moderne ?
Les erreurs peuvent avoir des conséquences sérieuses sur la vie des gens, y compris leur réputation et leur emploi, et il est difficile de les rectifier après coup.
Comment vérifier sa présence en ligne pour éviter de telles confusions ?
Il est conseillé de rechercher son propre nom sur des moteurs de recherche et de surveiller les résultats pour s’assurer qu’il n’y a pas de désinformations.
Que doit faire une personne si elle découvre une information erronée à son sujet en ligne ?
Il est important de contacter les plateformes concernées, demander une correction et éventuellement prendre des mesures légales pour protéger sa réputation.
