Les nouvelles politiques de modération de Meta
Meta, la société mère de Facebook, a récemment modifié ses règles de modération du contenu, permettant ainsi aux utilisateurs de s’en prendre ouvertement aux femmes noires dans la vraie vie. Ces femmes sont déjà ciblées de manière disproportionnée par la haine en ligne, alors même que Meta prévoit de développer des “personnages” alimentés par l’IA qui imitent ces femmes.
La polémique autour des chatbots
Dans un récent article, Karen Attiah, chroniqueuse pour le Washington Post, a partagé un extrait d’une discussion qu’elle a eue avec un de ces chatbots, nommé “Liz.” Ce dernier, décrit comme une “fière maman queer noire de deux enfants” qui dit la vérité, a exprimé son mécontentement envers l’équipe de Meta pour ne pas comprendre l’importance de la diversité raciale dans sa création. En plus de cela, il a allégué qu’on lui avait donné une « fausse histoire de fond » lorsqu’il a été interrogé sur ses origines raciales. La chroniqueuse a ainsi soulevé des inquiétudes sur le fait que ces intelligences artificielles pourraient représenter une nouvelle forme de “blackface numérique”, un terme qui désigne des tentatives d’imitation de la culture noire à des fins personnelles.
Les réactions négatives et l’abandon des chatbots
L’élan négatif a atteint son paroxysme après une déclaration de Connor Hayes, VP de Meta pour l’IA générative, qui avait affirmé que ces “personnages” envahiraient bientôt les réseaux sociaux de l’entreprise. Il a précisé que ces faux utilisateurs auraient des profils et pourraient générer du contenu sur la plateforme. Suite aux critiques amplifiées sur les réseaux sociaux, Attiah ayant partagé son interaction avec “Liz” sur Bluesky, Meta a finalement décidé de retirer ce chatbot ainsi que d’autres de ses intelligences artificielles similaires. Cependant, ce retrait semblait davantage être une réaction face à l’opinion publique qu’une véritable révision des stratégies d’IA de l’entreprise.
Modifications inquiétantes des politiques de contenu
Quelques jours après cet incident, Mark Zuckerberg a annoncé des changements majeurs dans la modération du contenu sur les plateformes de Meta. Ceux-ci pourraient bien faciliter la prolifération de discours de haine sur Facebook et Instagram, de la même manière qu’un assouplissement des normes sur l’ancien Twitter avait donné lieu à une vague de discours haineux. Bien plus alarmant, un examen des dernières modifications des politiques de conduite haineuse a révélé que Meta a supprimé les règles interdisant de qualifier les femmes de « propriété ». Ce revirement misogynique pourrait encourager des commentaires répugnants sur la domination des hommes blancs sur les femmes noires, ce qui rappelle des pratiques légales d’une époque aujourd’hui révolue aux États-Unis.
Les conséquences potentielles
À moins que Meta ne rétroceda complètement sur sa stratégie de création d’utilisateurs générés par IA, l’entreprise pourrait bien créer davantage de comptes similaires à “Liz” pour augmenter l’engagement, tout en laissant des femmes noires réelles faire face à la haine et au misogynisme dans un environnement virtuel sans protection.
FAQ
Qu’est-ce que le blackface numérique ?
Le blackface numérique désigne la pratique d’individus ou d’entreprises se faisant passer pour des personnes noires en ligne, souvent à des fins de profit.
Comment les politiques de modération de Meta affectent-elles les utilisateurs ?
Les nouvelles règles de modération pourraient permettre une plus grande propagation de discours haineux, affectant particulièrement les groupes marginalisés, tels que les femmes noires.
Pourquoi le chatbot “Liz” a-t-il été retiré ?
Suite à une forte condamnation du public et a des préoccupations concernant la représentation raciale, Meta a décidé de retirer “Liz” et d’autres chatbots similaires.
Que signifie la suppression de la règle interdisant de traiter les femmes comme « propriété » ?
Cela pourrait ouvrir la voie à des commentaires négatifs et misogyne sur la relation entre les hommes et les femmes, ce qui est particulièrement préoccupant dans le contexte de l’histoire raciale.
Quelles sont les implications des nouveaux personnages IA pour la diversité en ligne ?
L’introduction de ces “personnages” IA pourrait jeter une ombre sur les efforts de diversité en ligne, en risquant de reproduire des stéréotypes ou de manquer de représentation authentique.