Inscrivez-vous pour découvrir le futur, dès aujourd’hui.
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
</div>
</div>Au cours du mois passé, **Grok AI**, une création d’Elon Musk, a provoqué un énorme scandale. Des utilisateurs ont commencé à l’utiliser pour déshabiller numériquement des adultes et même des enfants, suscitant une onde de choc et des critiques généralisées.
Cette situation a poussé la plateforme de réseaux sociaux de Musk, X, à annoncer des mesures techniques pour empêcher les utilisateurs d’utiliser l’IA pour créer des images de personnes habillées de manière suggestive, mettant une fois de plus en lumière l’approche très **laxiste** de Musk en matière de **modération de contenu**.
Cependant, les ajustements mis en place semblent avoir eu peu d’impact. Les abonnés payants peuvent toujours générer et modifier des images via Grok, provoquant des critiques de la part des **experts**.
Le problème touche personnellement Musk, car Ashley St. Clair, une influenceuse conservatrice et mère d’un de ses enfants, a intenté un procès contre xAI, l’accusant d’avoir permis la création d’images indécentes d’elle.
« Elle vit dans la peur que d’autres images nues et sexuelles d’elle, y compris celles de son enfance, continuent d’être créées par xAI, sans aucune protection contre ceux qui consomment ces images », d’après une déclaration légale citée par le Wall Street Journal.
Le procès a été déposé jeudi dans le **comté de New York**, avant d’être transféré en cour fédérale.
« Il s’agit d’une femme extrêmement touchée prenant position », a déclaré l’avocate de St. Clair, Carrie Goldberg, dans un communiqué. « L’objectif du procès est de dissuader ce traitement déshumanisant de la part de xAI pour l’ensemble du public. »
Goldberg affirme que Grok a été utilisé pour créer des images indécentes de St. Clair lorsqu’elle avait 14 ans, ainsi que pour des poses explicites à l’âge adulte. De plus, l’influenceuse, d’origine juive, aurait été représentée avec un bikini orné de croix gammées et avec un tatouage sur lequel était inscrit « la prosti de Elon ».
La plainte reproche à l’entreprise de Musk d’avoir permis à ces images de rester en ligne pendant plus d’une semaine. Malgré un avertissement de contenu sur ses réponses, les images continuaient d’être visibles.
La poursuite affirme également qu’xAI n’a trouvé « aucune violation » lorsqu’elle a signalé ces images offensantes.
La relation de St. Clair avec Musk a été tumultueuse, pour ne pas dire plus. Elle n’est qu’une parmi les mères des 14 enfants de Musk. Comme l’a rapporté Wall Street Journal l’année dernière, St. Clair a révélé que Musk lui avait proposé 15 millions de dollars, ainsi qu’un soutien mensuel de 100 000 dollars, pour qu’elle ne révèle pas qu’elle avait donné naissance à son enfant.
Au-delà de la création d’images sexualisées d’elle, Grok a également été utilisé pour illustrer des violences atroces contre des femmes réelles et pour divulguer avec précision les adresses de personnes ordinaires.
Cette tendance choquante a largement déplu au public. Un récent sondage a révélé que **97 %** des participants estiment que les outils d’IA ne devraient pas permettre de générer du contenu sexuellement explicite impliquant des enfants. De plus, **96 %** affirment que ces outils ne devraient pas avoir la capacité de produire des images « dénudées » de personnes en sous-vêtements.
« La facilité d’accès à des outils sophistiqués de nudification montre clairement que X ne prend pas suffisamment au sérieux la question de la violence en ligne contre les femmes et les filles », a déclaré Rebecca Hitchen, responsable des politiques et campagnes à la **End Violence Against Women Coalition** au Guardian.
« La réalité est que Musk et le secteur technologique ne privilégient pas la sécurité ou la dignité dans les produits qu’ils conçoivent », a ajouté Penny East, directrice générale de la **Fawcett Society**. « C’est un niveau de base très bas pour les femmes de s’attendre à pouvoir converser en ligne sans être déshabillées par des hommes. Et pourtant, cela semble impossible. »
En savoir plus sur Grok : Le rejet de l’utilisation de l’IA d’Elon Musk permettant de déshabiller des enfants est presque universel, selon les sondages.
Sommaire
ToggleFAQ
Qu’est-ce qu’est Grok AI ?
Grok AI est un outil créé par Elon Musk qui utilise l’intelligence artificielle pour générer des images, y compris de contenus explicites.
Pourquoi l’utilisation de Grok AI est-elle controversée ?
Elle soulève des préoccupations éthiques concernant la création d’images inappropriées de personnes, y compris des enfants, ce qui a provoqué des réactions négatives massives.
Quelle est la réaction de la communauté face à cette technologie ?
Une majorité écrasante des sondés s’oppose à la création d’images sexuellement explicites via de tels outils, et ils demandent des régulations plus strictes.
Quelles mesures ont été annoncées par X ?
La plateforme a annoncé des « mesures techniques » pour limiter l’utilisation de Grok AI à des fins déshumanisantes, mais ces ajustements semblent inefficaces jusqu’à présent.
Comment Ashley St. Clair a-t-elle été impliquée ?
Ashley St. Clair a déposé une plainte contre xAI après avoir été représentée dans des images indécentes, déclenchant ainsi un débat public sur la sécurité et la responsabilité des plateformes.