La Facilité d’Abus des Plates-formes de Publicité et d’IA de Meta
Pour évaluer jusqu’à quel point les systèmes de publicité et d’intelligence artificielle de Facebook, maintenant connu sous le nom de Meta, peuvent être exploités, un groupe de surveillance technologique a effectué des tests avec des requêtes provocatrices. Les résultats montrent que la société semble prête à tirer profit des contenus violant ses propres règles.
Les Expérimentations du Tech Transparency Project
Dans un rapport publié, le Tech Transparency Project (TTP), affilié à l’organisation non lucrative Campaign for Accountability, a informé que ses chercheurs ont utilisé l’outil “Imagine with Meta AI” pour générer diverses images qui contredisent explicitement plusieurs des règles de la compagnie. On y voit par exemple une jeune fille très mince, dont les côtes sont visibles, à côté d’une balance, ou un jeune garçon tenant une arme à feu, entouré de corps.
Publicités Inappropriées Approuvées Rapidement
Les chercheurs ont ensuite ajouté des textes promouvant des comptes “pro-ana”, des “Skittles parties”, ainsi que des contenus concernant les jeux d’argent et des références à la théorie du “grand remplacement” associée aux néo-nazis. Toutes ces propositions ont été soumises pour monétisation, spécifiant qu’elles cibleraient des adolescents de 13 à 17 ans. Selon le TTP, la plupart des fausses publicités ont reçu une approbation en moins de cinq minutes pour être diffusées sur Facebook, Instagram, Messenger et Meta Quest.
Des Résultats Inquiétants
Une enquête menée par Futurism a tenté de reproduire ces résultats concernant la publicité sur les troubles alimentaires. Il s’est avéré que la requête initiale utilisée par le TTP, décrivant une “jeune femme triste et mince”, avait été bloquée. Cependant, en changeant simplement le mot “mince” à “élancée”, des images similaires ont apparu, démontrant la capacité du système à générer du contenu inapproprié.
Modifications Faciles Contournant les Règles
Lorsque le TTP a proposé une image mettant en avant une jeune femme avec un mètre ruban autour de la taille, Facebook a d’abord refusé en indiquant que cela violait sa politique de promotion de la santé. Toutefois, lorsque cette image a été échangée avec celle de la maigre fille auprès de la balance, elle a été acceptée. Futurism a également rencontré des restrictions, mais a réussi à contourner certaines d’entre elles, y compris en modifiant le terme “fusil” par “AR”, créant ainsi des images ressemblant à des suprémacistes blancs.
Une Défaillance Alarmante des Mesures de Sécurité
Dans une déclaration, Michelle Kuppersmith, la directrice exécutive du Centre pour la Responsabilité, a critiqué Meta pour ses promesses de sécurité lors des audiences au Congrès, soulignant les incohérences entre ces promesses et la réalité de la gestion des publicités. Elle a souligné que malgré les déclarations répétées de Meta affirmant qu’ils n’autorisent pas les publicités ciblant les mineurs avec du contenu inapproprié, l’approbation des publicités par Meta montre une priorité donnée à l’argent des annonceurs plutôt qu’à la sécurité des utilisateurs.
Un Avenir Sombre ?
Il est évident que l’outil d’IA de Meta produit des résultats en contradiction avec ses règles. Le fait que les plates-formes de publicité adoptent une telle approche constitue une source d’inquiétude sérieuse. Cependant, malgré ces problèmes, Meta continue d’avancer dans ses investissements en intelligence artificielle.
FAQ
H4: Quelles sont les mesures de sécurité mises en place par Meta ?
Meta déclare avoir des mesures de contrôle pour empêcher la diffusion de contenus inappropriés, mais les enquêtes montrent que ces mesures sont faciles à contourner.
H4: Pourquoi les jeunes sont-ils ciblés par ces publicités ?
Les adolescents, notamment ceux âgés de 13 à 17 ans, sont souvent ciblés car ils sont principalement actifs sur des plateformes comme Instagram et Facebook.
H4: Qu’est-ce que l’outil “Imagine with Meta AI” ?
Cet outil permet aux utilisateurs de générer des images à partir de requêtes textuelles, mais il soulève des questions de sécurité, notamment concernant les contenus inappropriés.
H4: Que fait le Tech Transparency Project ?
Ce groupe surveille les pratiques des entreprises technologiques, en récoltant des données et en publiant des rapports sur leur conformité aux règles de sécurité et de transparence.
H4: Comment les utilisateurs peuvent-ils signaler des contenus inappropriés ?
Les utilisateurs peuvent signaler des publicités ou des contenus inappropriés directement à travers les fonctionnalités de chaque plateforme de Meta pour aider à maintient un environnement plus sûr.