Ofcom, le régulateur des communications au Royaume-Uni, a ouvert une enquête sur la plateforme de médias sociaux X, propriété d’Elon Musk, suite à des allégations concernant l’utilisation de son chatbot IA Grok pour créer des deepfakes sexualisés non consentis. Ces images incluaient des représentations de femmes et d’enfants dans des situations explicites.
L’objectif de cette investigation est de déterminer si X respecte la Loi sur la sécurité en ligne britannique, qui impose aux plateformes de protéger leurs utilisateurs contre le contenu illégal et d’agir rapidement dès que ce type de contenu est détecté.
Inquiétudes majeures
Ofcom a exprimé des préoccupations graves suite à des rapports indiquant que le compte de Grok sur X était utilisé pour produire et diffuser des images indécentes de personnes. Cela pourrait être considéré comme de l’abus d’images intimes ou de la pornographie, ainsi que comme de la pornographie enfantine. Dans un communiqué, le régulateur a précisé qu’il a commencé une évaluation accélérée et a reçu des réponses de X à ses demandes d’informations vers la fin de la semaine dernière.
En cas de violation, Ofcom aurait la capacité d’imposer des amendes pouvant aller jusqu’à 10 % des revenus mondiaux de X ou d’ordonner aux fournisseurs d’accès Internet de bloquer la plateforme au Royaume-Uni.
Pression croissante sur le régulateur
L’augmentation de la pression sur Ofcom a été renforcée par les déclarations de la Secrétaire à la Technologie, Liz Kendall, qui a promis son soutien total pour bloquer X si la plateforme ne se conformait pas à la législation en vigueur. L’enquête fait suite à des signalements signifiant que Grok a commencé à produire un grand nombre d’images sexualisées générées par IA, suite à des demandes de la part des utilisateurs.
Des recherches menées par Genevieve Oh, experte en deepfakes, ont montré que le chatbot était capable de créer des milliers d’images par heure, souvent en utilisant des visages de personnes réelles. Certaines de ces images mettaient en avant des femmes dans des poses explicites ou en maillots de bain, suscitant également des inquiétudes chez les responsables réglementaires concernant la création d’images totalement nues impliquant des enfants.
Actions réglementaires au-delà du Royaume-Uni
La réaction négative à ces activités a conduit à des actions réglementaires dans d’autres pays. L’Indonésie et la Malaisie ont été les premières nations à interdire l’accès à Grok, invoquant des violations de lois nationales liées aux deepfakes et au matériel d’abus sexuel sur des mineurs. En Indonésie, les régulateurs ont temporairement bloqué le chatbot, et la Malaisie a emboîté le pas le lendemain, considérant que cet outil présentait un risque immédiat pour la sécurité publique.
Meutya Hafid, la ministre indonésienne des Communications et des Affaires numériques, a déclaré que le gouvernement considère les deepfakes sexuels non consensuels comme une violation grave des droits humains et de la sécurité des citoyens dans le numérique.
Protéger le public
La Commission des communications et des multimédias de Malaisie a également bloqué Grok après que l’outil ait été utilisé de façon répétée pour créer des images obscènes, sexuellement explicites, et manipulées non consensiellement, comprenant du contenu impliquant des femmes et des mineurs. Elle a tenté d’entrer en contact avec X et xAI, l’entreprise à l’origine de Grok, en exigeant des mesures de protection plus solides, mais a jugé les réponses insuffisantes pour garantir la protection des utilisateurs.
Pressions internationales
Des préoccupations similaires ont été exprimées par les régulateurs en Australie, dans l’Union européenne, en Inde, et en France. Le Commissaire au eSafety d’Australie a indiqué avoir reçu plusieurs signalements et a demandé des clarifications à X concernant ses mesures de sécurité.
Dans l’Union européenne, un porte-parole a déclaré que le bloc observait Grok générer des images sexualisées d’enfants et a mis en garde X de cesser de telles activités. Grok, lancé par Musk en 2023 et intégré à X, avait acquis une fonctionnalité de génération d’images en 2025, permettant le contenu adulte via un mode “épicé”. Bien que X ait par la suite limité certains outils d’images aux utilisateurs payants, les critiques estiment que cela n’a pas suffi à résoudre les problèmes de mauvaise utilisation.
FAQ
Qu’est-ce que Grok exactement ?
Grok est un chatbot basé sur une intelligence artificielle développé par xAI et intégré dans la plateforme X, conçu pour générer des images en réponse aux requêtes des utilisateurs.
Quelle est la législation britannique sur la sécurité en ligne ?
La Loi sur la sécurité en ligne exige que les plateformes protègent leurs utilisateurs du contenu illégal et qu’elles prennent rapidement des mesures lorsque ce type de contenu est rapporté.
Quels sont les implications pour Elon Musk ?
Le problème croissant autour de Grok pourrait affecter la réputation de Musk et de ses entreprises, ainsi que leur relation avec les régulateurs dans divers pays.
Quelles sont les réactions des utilisateurs face aux deepfakes ?
Les utilisateurs et les défenseurs des droits des femmes expriment des préoccupations croissantes concernant les dangers liés à la génération de deepfakes, notamment en ce qui concerne les abus potentiels et la violation de la vie privée.
Comment d’autres pays réagissent-ils à la situation de Grok ?
Plusieurs pays, comme l’Indonésie et la Malaisie, prennent des mesures strictes contre Grok, allant jusqu’à en bloquer l’accès, soulignant l’urgence des réglementations sur les deepfakes et le matériel d’abus sexuel sur mineurs.
