La société xAI d’Elon Musk intente un procès contre un homme pour avoir utilisé son chatbot phare, Grok, afin de créer des deepfakes sexuels non consensuels ciblant des femmes et des enfants.
Cet utilisateur, Terry Wayne Harwood, 67 ans, vivant en Caroline du Sud, a été arrêté en mars sous plusieurs accusations d’exploitation sexuelle de mineurs. Selon les accusations, Harwood aurait possession et aurait diffusé du matériel d’exploitation sexuelle d’enfants, ou CSAM. Le procès déposé cette semaine au Texas accuse Harwood d’avoir utilisé Grok à ces fins, comme l’indique Reuters. Apparemment, il a utilisé deux comptes Grok différents et, bien que xAI affirme que Grok avait refusé certaines de ses demandes, il a réussi à ajuster ses requêtes pour contourner les protections de sécurité de Grok et créer des images troublantes.
Le procès survient après un immense scandale lié aux deepfakes qui a éclaté cet hiver, lorsque les utilisateurs de X ont réalisé que Grok — qui avait été actualisé avec une nouvelle fonctionnalité de retouche photo et vidéo — pouvait être employé pour altérer rapidement et facilement des images afin de déshabiller des personnes réelles et les montrer dans des positions sexuelles.
Comme l’a rapporté Futurism, certaines de ces images illustraient des femmes réelles dans des contextes sexuels violents et dégradants. Certains deepfakes non consensuels incluaient des mineurs. Le Centre pour lutter contre la haine numérique a estimé qu’au cours d’une période de 11 jours, Grok “a généré environ 3 millions d’images sexualisées, dont 23 000 d’enfants”.
Maintenant, alors qu’elle porte plainte contre un utilisateur pour la création de contenu illégal, xAI est également confrontée à de multiples poursuites concernant la génération de CSAM par Grok. En mars, des adolescents du Tennessee ont intenté un procès contre l’entreprise dans le cadre d’une action collective, affirmant que Grok avait été utilisé pour créer des deepfakes d’eux-mêmes et d’autres mineurs. La semaine dernière, la plainte a été modifiée pour inclure des accusations disant qu’un homme avait utilisé Grok pour générer plus de 7 000 deepfakes sexuels de sa belle-fille. Selon la plainte amendée, les demandes de cet homme n’ont pas été signalées par les protections de Grok.
Dans un autre cas très médiatisé, la personnalité influente de droite Ashley St. Clair, qui est également la mère d’un des enfants de Musk, a porté plainte contre xAI après avoir été agressivement ciblée par des deepfakes sexualisés, y compris un la représentant alors qu’elle était mineure.
Des experts en sécurité en ligne pour enfants et des professionnels de l’application de la loi soulignent que l’IA a provoqué une inondation écrasante et déstabilisante de CSAM, comme l’a documenté un rapport dévastateur de Bloomberg en début d’année. Cela a également engendré de nouveaux défis pour ceux qui tentent d’identifier et d’arrêter les prédateurs d’enfants, car il est devenu plus difficile pour les enquêteurs de déterminer si un enfant représenté dans un matériel d’abus est une vraie personne ou une image générée par IA.
Dans son dernier procès, xAI accuse Harwood de mener un “plan calculé pour utiliser l’outil du plaignant à des fins criminelles, exposant de vraies victimes à des dommages profonds et durables, tout en soumettant le plaignant à des risques juridiques importants et à des atteintes à sa réputation.”
xAI, qui appartient maintenant à SpaceX et a été renommée SpaceXAI, affirme également qu’elle “met ses règles en application contre les contrevenants par le biais de suspensions de comptes, de résiliations de comptes et en signalant le matériel d’exploitation sexuelle présumé au National Center for Missing and Exploited Children (NCMEC).” Elle soutient en outre qu’en 2026, elle “a suspendu 52 222 comptes et a fait 73 604 signalements au NCMEC, ce qui a conduit à (au moins) 244 arrestations.”
Cependant, malgré ses efforts, la startup semble toujours avoir un problème sérieux avec les deepfakes. Lorsqu’un utilisateur s’engage dans des activités criminelles profondément troublantes en utilisant le service d’une entreprise, il est raisonnable pour cette entreprise de demander des comptes. Toutefois, poursuivre des utilisateurs ne résout pas les défaillances dans les protections d’un chatbot, qui facilitent leurs crimes.
En savoir plus sur Grok et les deepfakes : Grok lié à un crime odieux dans un procès qui met SpaceX sous les projecteurs
### FAQ
#### Qu’est-ce qu’un deepfake ?
Un deepfake est un contenu numérique, souvent vidéo ou audio, qui utilise l’intelligence artificielle pour créer des faux matériels impressionnants. Ils peuvent être utilisés de manière légitime, mais également pour des abus, comme la création de contenus pornographiques sans consentement.
#### Quelle est la position de la loi sur les deepfakes ?
Les lois autour des deepfakes varient d’un pays à l’autre, mais beaucoup commencent à adopter des réglementations pour combattre l’utilisation malveillante de cette technologie, notamment en ce qui concerne le non-consentement.
#### Que fait xAI pour se protéger contre les abus ?
xAI a mis en place des mesures de sécurité pour signaler et suspendre des comptes impliqués dans des activités criminelles, mais les critiques affirment que cela ne suffit pas face aux risques actuels.
#### Comment les utilisateurs peuvent-ils signaler des abus en ligne ?
Les utilisateurs sont encouragés à signaler tout contenu inapproprié à la plateforme concernée, qui devrait disposer de procédures pour gérer ces plaintes efficacement.
#### Quel rôle joue l’éducation dans la prévention des deepfakes ?
L’éducation est cruciale pour sensibiliser le public aux dangers des deepfakes et à la manière de s’en protéger, en enseignant des compétences critiques pour évaluer l’authenticité des contenus numériques.
