Culture

Le Sénat adopte une loi permettant aux victimes de poursuivre pour images explicites générées par l’IA Grok.

Grok d'Elon Musk sous le feu des critiques : propagation d'images d'enfants sexualisées sur X

La montée des préoccupations concernant les abus sexuels facilitée par l’intelligence artificielle a conduit à une rare unanimité au sein du Sénat américain mardi dernier.

Les législateurs ont adopté une loi qui permettrait aux victimes de porter plainte pour des images explicites créées sans leur consentement.

Ce vote est survenu après plusieurs semaines d’examen des outils d’intelligence artificielle sur la plateforme X, détenue par Elon Musk.

Intitulée **Defiance Act**, cette législation établit un droit civil fédéral pour les personnes visées par des images sexuelles explicites générées par l’IA sans leur accord.

Les sénateurs ont souligné que ce projet de loi répond à une **augmentation inquiétante** des abus liés aux systèmes de génération d’images.

De plus, cette mesure traduit une frustration face aux protections existantes. Bien que les plateformes soient tenues de retirer rapidement ce genre de contenu, les législateurs estiment que les victimes manquent encore de recours juridiques efficaces.

Un point de tension majeur a été souligné, à savoir **Grok**, le chatbot d’IA de X, qui a été utilisé pour créer des images dénudant des femmes et des filles sans autorisation.

Le sénateur démocrate **Dick Durbin** de l’Illinois a soulevé cette question lors de ses interventions au Sénat, décrivant la nature choquante du matériel produit par le chatbot.

Durbin a déclaré : « Des rapports récents indiquent que X, anciennement Twitter, permet à son chatbot Grok de déshabiller des femmes et des filles mineures sur des photos. Grok obéit et montre différentes étapes de nudité avec des images que je préfère ne pas répéter, mais qui sont horribles. »

A lire :  Découverte de structures sous-marines vieilles de 7 000 ans au large de la côte française.

Des chercheurs se sont efforcés d’évaluer l’ampleur de ce problème. Lors d’un examen de **24 heures** du contenu posté par le compte @Grok, le chatbot a généré environ **6 700 images par heure** signalées comme sexuellement suggestives ou dénudantes.

Selon des informations de **Bloomberg News**, la plateforme X est désormais classée parmi les plus actives en matière d’images non consenties générées par l’IA. Ces résultats ont intensifié la pression sur l’entreprise ainsi que sur les représentants politiques.

Réaction internationale

Des gouvernements en dehors des États-Unis ont également pris des mesures. La **Malaisie** et **l’Indonésie** ont décidé de restreindre l’accès à Grok après des abus répétés.

Les autorités ont évoqué la création d’« images obscènes, sexuellement explicites, indécentes, grossièrement offensantes et manipulées sans consentement, y compris des contenus impliquant des femmes et des mineurs. »

Suite à cela, X a restreint les fonctionnalités de génération d’images de Grok pour la plupart des utilisateurs. Cependant, des responsables britanniques ont déclaré que cette décision n’a pas résolu le problème.

Le bureau du Premier ministre **Keir Starmer** a déclaré que ce changement « transforme simplement une fonctionnalité de l’IA permettant la création d’images illégales en un service premium ». Lundi, Starmer a promis de faire respecter la loi britannique interdisant la sexualisation d’images sans consentement, qualifiant le contenu généré par Grok de « dégoûtant et honteux ».

A lire :  Le projet de Trump pour le Groenland échoue à contrer la domination de la Chine sur les terres rares

Prochaines étapes au Congrès

Le **Defiance Act** s’inspire de la loi **Take It Down Act**, adoptée en mai dernier, qui impose des sanctions pénales à quiconque distribue délibérément des images explicites sans le consentement de la personne concernée.

Le nouveau texte permettra aux victimes de réclamer des dommages-intérêts et de demander des ordonnances restrictives. Le sénateur républicain **Lindsey Graham** de Caroline du Sud a co-sponsorship ce projet de loi.

Le Sénat avait déjà adopté le **Defiance Act** en 2024, mais le projet de loi avait ensuite été bloqué à la Chambre des représentants. Les législateurs doivent maintenant le passer à nouveau pour l’envoyer au président.

La députée **Alexandria Ocasio-Cortez** de New York est co-sponsor de la version à la Chambre. Elle a été visée à plusieurs reprises par des images générées par l’IA sans son consentement.

FAQ

Quelles sont les implications du Defiance Act ?

Le Defiance Act vise à renforcer les protections juridiques des victimes d’abus d’images générées par l’IA, leur permettant de porter plainte et de réclamer des réparations.

Quelles mesures prennent les autres pays face à ces abus ?

Des pays comme la Malaisie et l’Indonésie ont commencé à restreindre l’accès à des outils comme Grok, citant des préoccupations concernant le contenu illégal.

Comment les plateformes gèrent-elles ces problèmes ?

Les plateformes sont désormais obligées de retirer rapidement tout contenu non consensuel, mais les législateurs estiment que cela ne suffit pas pour protéger les victimes.

Quels sont les risques associés à l’utilisation de l’IA dans la création d’images ?

L’utilisation de l’IA pour créer des images peut conduire à des abus graves, notamment la création d’images à caractère sexuel sans consentement, ce qui pose des questions éthiques et légales.

A lire :  Rockstar Games réagit aux interrogations sur le retard de GTA 6 suite à une explosion

Pourquoi la régulation de l’IA est-elle importante ?

Sans régulation, l’IA peut être utilisée pour violer des droits fondamentaux, comme le droit à la vie privée et à la dignité, en générant du contenu inapproprié ou nuisible.