Elon Musk sous pression à cause de Grok
Trois députés démocrates influents à la Chambre des représentants des États-Unis ont récemment interpellé le milliardaire et entrepreneur Elon Musk au sujet de son chatbot Grok. Ils l’accusent de laisser se développer des images intimes et sexualisées sous forme de deepfake, impliquant de vraies personnes sans leur consentement.
Dans une lettre envoyée jeudi dernier, les représentants Frank Pallone, Jan Schakowsky et Yvette Clarke, membres importants de la Commission de l’énergie et du commerce de la Chambre, ont critiqué ce qu’ils appellent une “absence d’action” de la part de Musk et de son entreprise d’intelligence artificielle, xAI.
Inquiétudes face à des images non consensuelles
Les élus se montrent “profondément préoccupés” par le refus de xAI de mettre un terme à la création de ces contenus intimes et non consensuels, en particulier ceux concernant des enfants. Dans leur lettre, inspirée d’un rapport de NBC News, ils soulignent que ces publications abusives exposent des hommes, des femmes et des enfants à de graves risques.
Les députés exigent des réponses précises d’ici le 5 mars, y compris des éclaircissements sur le moment où Musk a pris connaissance des sollicitations faites à Grok pour générer des images explicites de femmes et de mineurs.
L’origine de la controverse
La controverse a éclaté en janvier, lorsqu’il a été révélé que Grok pouvait être utilisé pour modifier des photos afin de desserrer des vêtements ou de produire des représentations sexualisées de personnes réelles. Des chercheurs et des observateurs ont fait savoir que cet outil facilitait le harcèlement et soulevait de sérieuses préoccupations quant à la création potentielle de contenus liés à l’abus sexuel d’enfants. À un moment donné, des milliers d’images de ce type étaient générées chaque heure et diffusées sur X.
Musk a affirmé qu’il n’était pas au courant de l’existence de telles images de mineurs et a soutenu que Grok “refuserait de produire quoi que ce soit d’illégal.” De plus, il a suggéré que certaines utilisations non conformes pourraient découler de tentatives de manipulation du système, déclarant sur X : “Il peut y avoir des moments où le piratage d’indices sur Grok entraîne des résultats inattendus. Si cela se produit, nous corrigeons le bug immédiatement.”
Enquête formelle de l’UE
Alors que les législateurs américains cherchent des réponses, les régulateurs européens prennent des mesures plus strictes. Le mois dernier, la Commission européenne a ouvert une enquête formelle sur X en raison de la Loi sur les services numériques (DSA), se concentrant sur les risques liés à l’utilisation de Grok dans l’Union européenne. Dans leur communiqué, ils ont annoncé qu’ils allaient vérifier si X avait correctement évalué et réduit les risques liés aux caractéristiques de Grok, notamment la diffusion de contenus illégaux, comme des images sexualisées manipulées, voire du matériel lié aux abus sexuels d’enfants.
La Commission a noté que ces risques semblaient se matérialiser, mettant en danger de nombreux citoyens européens. Si des violations sont confirmées, cela pourrait entraîner des sanctions sur plusieurs dispositions de la DSA.
D’autre part, la Commission irlandaise de protection des données a aussi débuté une enquête concernant X en vertu des rigoureuses règles de confidentialité du RGPD. Cette enquête vise à déterminer si X a traité de manière illégale des données personnelles pour créer des images intimes “potentiellement nuisibles” impliquant des Européens, y compris des mineurs.
Parallèlement, le Premier ministre espagnol, Pedro Sánchez, a annoncé que son gouvernement avait ordonné aux procureurs d’enquêter sur X ainsi que sur Meta et TikTok, en rapport avec des crimes liés à du matériel sexuel abusif généré par l’IA. Il a agressivement affirmé que ces plateformes portent atteinte à la santé mentale et aux droits de nos enfants.
Une pression politique croissante aux États-Unis
Aux États-Unis, les préoccupations relatives aux deepfakes générés par l’IA ne se limitent pas aux démocrates. Le sénateur républicain Ted Cruz, qui a contribué à l’adoption d’une loi fédérale interdisant la pornographie deepfake non consensuelle l’an dernier, a signalé que de nombreux messages générés par Grok semblaient “en violation claire” de cette législation. Cependant, il a noté qu’X avait semblé prendre cette problématique au sérieux.
Cette enquête parlementaire ajoute une pression juridique et réglementaire grandissante sur la plateforme de Musk, alors que les outils d’IA générative se répandent rapidement et que les mesures de contrôle évoluent encore.
À lire aussi : xAI teste discrètement ce qu’il appelle des ‘émulateurs humains’, selon un ancien ingénieur de xAI.
FAQ
Qu’est-ce que Grok ?
Grok est un chatbot développé par xAI, connu pour sa capacité à générer des images. Cependant, son utilisation a provoqué des préoccupations concernant les contenus inappropriés.
Quels sont les risques associés à l’utilisation de Grok ?
Les risques incluent la création d’images non consensuelles, en particulier des contenus sexualisés de mineurs, ainsi que le harcèlement en ligne.
Quelles actions l’UE prend-elle contre X ?
L’UE enquête sur X pour évaluer si l’entreprise a pris les mesures nécessaires pour limiter la distribution de contenus illégaux en rapport avec Grok.
Comment les législateurs américains réagissent-ils à cette situation ?
Les législateurs demandent des éclaircissements et des mesures de protection pour éviter des abus liés à l’utilisation de la technologie mise en œuvre par Grok.
Quelles conséquences pourraient résulter des enquêtes en cours ?
Des violations possibles des règlements pourraient entraîner des sanctions importantes pour X, ainsi que des mesures pouvant restreindre leur fonctionnement dans l’UE.