<p>
<figcaption class="article-featured-image-caption">
<em>Image : Kirill Kudryavtsev / AFP via Getty / Futurism</em>
</figcaption>
</p>Une Erreur Inacceptable
Récemment, Facebook a reconnu une série d’erreurs après que ses algorithmes ont jugé 21 publications du Mémorial d’Auschwitz inappropriées, enfreignant soi-disant ses standards communautaires. Cette problématique a amené la société mère, Meta, à faire des excuses, bien que de manière indirecte.
La publication du mémorial, disponible sur Facebook, a signalé que certains de ses contenus avaient été déclassés, invoquant des motifs étranges liés aux standards de la plateforme. Bien que Meta ait reconnu la faute, cela a suscité un débat plus large sur le rôle de l’intelligence artificielle dans la modération de contenus sensibles.
Un porte-parole de Meta a expliqué à The Telegraph : « Nous avons, par erreur, informé le Mémorial d’Auschwitz que plusieurs de ses publications avaient été déclassées. En vérité, ces contenus ne contreviennent pas du tout à nos politiques, et nous présentons nos excuses pour cette erreur. »
Une Réaction Inattendue
Dans un post fait le 12 avril, le Mémorial a dénoncé cette situation, qualifiant les actions de Facebook de véritable “effacement algorithmique de l’Histoire.” Il a indiqué que les publications, qui rendent hommage aux victimes d’Auschwitz, avaient été injustement ciblées pour des raisons absurdes telles que la nudité, le harcèlement, la haine ou l’incitation à la violence. Des captures d’écran ont montré que les contenus concernés n’incluaient aucune des infractions mentionnées, mais uniquement des portraits et des récits des victimes.
Un Problème Répandu
Bien que Facebook ait annulé ses suspensions, cette incident soulève des interrogations sur l’impact des systèmes alimentés par l’IA, qui souvent excluent les humains dans la curation de contenus essentiels.
Peu après la déclaration du mémorial, le ministre polonais des affaires numériques, Krzysztof Gawkowski, a cliqué sur cette erreur, la qualifiant de “scandale” et d’illustration des faiblesses de la modération automatique de contenu. Dans un message sur X (anciennement Twitter), il a exigé des éclaircissements supplémentaires de la part de Meta.
Cette demande a été soutenue par la campagne contre l’antisémitisme, qui a affirmé dans un communiqué adressé à The Telegraph que les excuses de Meta n’étaient pas suffisantes. L’organisation a insisté sur la nécessité pour Meta d’expliquer pourquoi son algorithme traite l’Histoire authentique de l’Holocauste avec méfiance et ce qu’elle peut entreprendre pour garantir que de telles histoires continuent d’être partagées.
Ce cas, où un contenu historique de première importance a été étiqueté comme problématique par l’algorithme de Meta, est aggravé par d’autres problèmes majeurs de modération, tels que l’auto-traduction de termes sensibles ou la promotion de contenus inappropriés.
En savoir plus sur Meta et l’IA
Meta fait face à des défis croissants concernant l’utilisation de l’IA dans ses systèmes de modération. Alors que des préoccupations continuent d’émerger sur la manière dont l’IA appréhende des sujets délicats, l’entreprise est sous pression pour renforcer ses pratiques de modération.
FAQ
Quelles mesures Meta prend-elle pour éviter ces erreurs à l’avenir ?
Meta promet d’améliorer ses algorithmes afin d’éviter que des contenus historiquement significatifs ne soient injustement signalés.
Comment les utilisateurs peuvent-ils signaler des contenus qu’ils estiment injustement modérés ?
Les utilisateurs peuvent utiliser les outils de signalement intégrés dans Facebook pour faire part de leurs préoccupations concernant un contenu particulier.
Y a-t-il eu d’autres incidents similaires avec le Mémorial d’Auschwitz ?
D’autres incidents de modération erronée sur des sujets sensibles ont également été signalés, soulevant des questions sur l’efficacité des systèmes automatisés.
Comment la responsabilité des entreprises de technologie est-elle abordée dans de tels cas ?
Les défenseurs de la transparence demandent des comptes aux entreprises de technologie concernant leurs politiques de modération et l’impact sur les contenus historiques et culturels.