indépendantes du point de vue éditorial. Nous pouvons générer des revenus lorsque vous cliquez sur des liens vers nos partenaires.
En savoir plus
Enquête de l’Union Européenne sur X et Grok
Des régulateurs de l’Union Européenne ont lancé une enquête concernant la plateforme de médias sociaux X, dirigée par Elon Musk. Cette enquête se concentre particulièrement sur le chatbot Grok et sur des allégations selon lesquelles il pourrait être utilisé pour créer des deepfakes sexualisés d’éventuelles victimes, y compris des femmes et des mineurs.
Contexte de l’enquête
Annoncée le 26 janvier, cette investigation intervient après une montée des critiques à l’échelle internationale à l’encontre de cet outil. Les préoccupations se portent sur la facilité avec laquelle des photos ordinaires peuvent être manipulées et transformées en contenus explicites via de simples instructions textuelles telles que « mets-la en bikini » ou « enlève ses vêtements ». L’escalade de cette enquête souligne la volonté de l’UE de lutter contre les plateformes qui ne parviennent pas à empêcher la circulation de contenus illégaux ou nuisibles.
Raisons de cette enquête
La Commission Européenne a déclaré enquêter sur la manière dont X a géré les « risques liés à la diffusion de contenus illégaux dans l’UE », notamment les images manipulées à caractère sexuel, incluant celles qui pourraient relever de matériels d’abus sexuels sur mineurs. Ursula von der Leyen, présidente de la Commission, a qualifié cette question à la fois de légale et d’éthique. Elle a affirmé qu’Ei’Europe ne tolérera pas des comportements inacceptables tels que le “déshabillage numérique” de femmes et d’enfants. Selon elle, il est impératif de protéger les droits des femmes et des enfants et de ne pas les sacrifier pour les intérêts des entreprises technologiques.
La problématique de Grok
L’enquête se concentre sur les capacités du chatbot Grok, intégré à X, qui serait utilisé pour générer des images sexualisées à partir de photos en utilisant de simples instructions. Les critiques soutiennent que cette facilité de création augmente les risques de harcèlement, d’exploitation et diffusion de contenus illégaux, ce qui est particulièrement préoccupant lorsque des mineurs sont impliqués.
Une réponse aux préoccupations soulevées par la recherche
Cette enquête survient dans un contexte où des recherches publiées par le Center for Countering Digital Hate (CCDH) ont révélé que Grok aurait généré environ trois millions d’images sexualisées de femmes et d’enfants en quelques jours. Cette annonce a intensifié la pression sur X pour démontrer que les mesures de protection mises en place sont efficaces. Les chiffres évoqués suscitent des inquiétudes quant à la capacité des systèmes de modération à suivre le rythme des abus potentiels.
AI et nouvelles formes d’abus
Pour les critiques de la plateforme, ces développements montrent comment les produits d’intelligence artificielle (IA) peuvent engendrer de nouvelles formes d’abus, facilitant des actions qui nécessitaient auparavant une certaine expertise technique.
Importance de la Loi sur les services numériques
Henna Virkkunen, responsable de la souveraineté technologique à la Commission Européenne, a souligné que cette enquête déterminera si X a respecté ses obligations légales en vertu de la Loi sur les services numériques (DSA), conçue pour atténuer les risques associés aux plus grandes plateformes en ligne. Elle a insisté sur le fait que les droits des femmes et des enfants en Europe ne devraient pas être considérés comme des dommages collatéraux des services fournis par X.
Obligations pour X
La DSA impose aux grandes plateformes de détecter les risques systémiques et d’agir pour réduire la diffusion de contenus illégaux. L’UE recherchera des preuves montrant que X a pris des mesures suffisantes pour empêcher Grok de produire et de répandre des contenus manipulés à caractère sexuel. En cas de manquement à ce respect des obligations, X pourrait faire face à des sanctions et à une surveillance plus stricte.
Deepfakes : La menace grandissante
La controverse met en lumière un problème croissant : l’utilisation d’outils de déshabillage numérique et de deepfakes sexuels pour cibler des femmes, des personnalités publiques et des mineurs. Même lorsque les images manipulées ne correspondent pas à la définition stricte des contenus d’abus sexuels sur mineurs, elles peuvent causer de graves préjudices, y compris du harcèlement et des dommages à la réputation. Les victimes se retrouvent souvent dans une situation où une fois le contenu diffusé, elles n’ont que peu de contrôle sur sa propagation.
Enquête élargie liée à une action précédente contre X
L’UE a élargi une enquête préexistante sur X, initialement axée sur la diffusion de contenu illégal et la manipulation d’informations. X est sous surveillance depuis décembre 2023, après avoir été condamné à une amende de 120 millions d’euros pour violation d’obligations de transparence de la DSA.
Les autorités européennes cherchent à évaluer l’efficacité de l’enquête sur Grok à travers une perspective de contrôle continu sur les paramètres de sécurité des contenus en ligne, en dépit de pressions politiques et des intérêts commerciaux.
Ce qui attend Grok et X
L’enquête examinera comment Grok gère des demandes sensibles et si X dispose de systèmes adéquats pour détecter et supprimer les images manipulées à caractère sexuel. Les résultats de cette enquête pourraient également influencer la manière dont d’autres outils d’IA générative sont régulés sous la DSA, imposant des restrictions plus strictes sur les plateformes. Pour X, cela représente encore une pression réglementaire accrue dans un contexte où les autorités réaffirment que les préjudices liés à l’IA, en particulier ceux touchant les femmes et les enfants, deviendront une priorité d’application.
Note : Grok AI continue à fonctionner en Indonésie et en Malaisie, malgré un bannissement national.
FAQ
Quelle est la nature de Grok ?
Grok est un chatbot conçu pour générer des images, et il est intégré à la plateforme X.
Quelles sont les conséquences potentielles de cette enquête ?
X pourrait faire face à des amendes ou à des exigences supplémentaires concernant sa gestion des contenus.
Pourquoi l’Union Européenne s’intéresse-t-elle à X maintenant ?
Les préoccupations croissantes concernant les contenus illégaux et nuisibles sur les plateformes numériques ont suscité une montée de la vigilance de l’UE.
Comment fonctionne la Loi sur les services numériques ?
La DSA impose des obligations aux plateformes pour détecter et gérer les contenus illégaux, en veillant à la sécurité des utilisateurs en ligne.
Que peuvent faire les victimes de contenus manipulés ?
Les victimes peuvent signaler le contenu à la plateforme, bien que le processus de retrait puisse être long et complexe.
