Grok Limite la Génération d’Images Suite à une Controverse sur le Contenu Explicite.

Suspension des fonctions de création d’images de Grok

Grok a décidé de désactiver ses fonctionnalités de création et d’édition d’images pour la majorité de ses utilisateurs. Cette décision fait suite à des critiques mondiales sur son utilisation abusive pour produire des images à caractère sexuel et violent.

L’outil d’intelligence artificielle, créé par la société xAI d’Elon Musk, est intégré à la plateforme de médias sociaux X. Face à une pression politique et réglementaire croissante, notamment au Royaume-Uni, des ministres ont averti que X pourrait se voir infliger d’importantes amendes ou même être interdit si elle ne limite pas la propagation de contenus nuisibles générés par l’IA.

Restrictions liées à la pression publique

Dans un message posté sur X, le compte Grok a confirmé ces changements en déclarant : « La génération et l’édition d’images sont actuellement réservées aux abonnés payants. » De ce fait, la majorité des utilisateurs de X ne peut plus créer d’images via Grok, et seule une petite fraction, les abonnés payants, conserve cet accès. Ce changement limite considérablement le nombre d’utilisateurs capables de contribuer et associe la création d’images à des comptes avec des détails de paiement vérifiés.

Ces utilisateurs ont fourni des informations personnelles complètes ainsi que des données de carte de crédit à X, ce qui permet leur identification en cas d’abus. Toutefois, des critiques soulignent que cette restriction d’accès est insuffisante, car la possibilité de générer du contenu nuisible existe toujours.

Le compte public @Grok sur X a également subi des restrictions importantes dans ses capacités de création d’images. Cependant, il existe des inquiétudes concernant une application distincte de Grok qui ne partage pas d’images publiquement. Des utilisateurs non payants affirment qu’ils continuent de créer des images sexualisées de femmes et d’enfants sur cette application.

Utilisation de Grok pour créer du contenu non consensuel et violent

Cette controverse a éclaté après des rapports faisant état de l’utilisation de Grok pour manipuler des images de femmes, en retirant leurs vêtements ou en les plaçant dans des positions sexualisées sans leur consentement. Une enquête réalisée par le Guardian a révélé que l’outil avait été utilisé pour produire des vidéos pornographiques de femmes sans leur accord, ainsi que des images graphiques montrant des femmes abattues.

Au cours des deux dernières semaines, des milliers d’images sexualisées auraient été générées après une mise à jour de la fonctionnalité de création d’images de Grok à la fin décembre. Les défenseurs des droits et des responsables politiques ont demandé à Musk et à xAI de supprimer ou de restreindre cette fonction, affirmant qu’elle favorisait des abus à grande échelle. Malgré ces appels, X n’a jusqu’à présent pas pris de mesures visibles.

Menaces du gouvernement britannique à l’encontre de X

La pression est montée cette semaine lorsque Keeir Starmer, le Premier ministre britannique, a vivement critiqué la propagation d’images sexuelles générées par l’IA sur X, indiquant que des mesures réglementaires sévères pourraient suivre. Il a exigé que X prenne des mesures pour traiter ce qu’il a qualifié de déluge d’images de femmes et d’enfants partiellement vêtus, qualifiant ce contenu de « détestable » et de « répugnant ».

Starmer a aussi suggéré qu’un ban de facto de X devait être envisagé, affirmant que le régulateur des communications, Ofcom, « a notre plein soutien pour agir à cet égard ». Selon la loi britannique sur la sécurité en ligne, Ofcom a le pouvoir, dans les cas graves, de demander une ordonnance du tribunal pour bloquer un site web ou une application au Royaume-Uni. Il peut également imposer des amendes pouvant aller jusqu’à 10 % du chiffre d’affaires mondial d’une entreprise, ce qui pourrait avoir de lourdes conséquences pour une plateforme de la taille de X.

Preuves de problèmes au-delà de la plateforme X

Certaines des formes les plus extrêmes de contenu lié à Grok sont générées en dehors de la plateforme X elle-même, à travers un outil connu sous le nom de Grok Imagine, intégré au système d’IA. Une recherche menée par l’organisation à but non lucratif AI Forensics, basée à Paris, a identifié environ 800 images et vidéos créées par l’application Grok Imagine, comportant du matériel pornographique et sexuellement violent. Paul Bouchaud, un chercheur à AI Forensics, a déclaré : « Ce sont des vidéos entièrement pornographiques et elles semblent professionnelles. »

Il ajoute que le contenu produit est beaucoup plus explicite que le simple phénomène des images en bikini observé précédemment sur X.

L’avenir incertain de Grok et X

Musk et xAI se retrouvent désormais sous le regard attentif des régulateurs du monde entier alors que les gouvernements tentent de déterminer comment appliquer les lois existantes aux technologies d’IA générative qui évoluent rapidement. L’affaire Grok est probablement considérée comme un test pour savoir si les plateformes peuvent être forcées de redessiner ou de retirer des fonctionnalités d’IA qui permettent des préjudices à grande échelle.

Un procès va également avancer suite à la plainte d’Elon Musk contre OpenAI de Sam Altman, après qu’un juge américain ait déclaré qu’il y avait suffisamment de preuves pour qu’un jury étudie les accusations selon lesquelles l’entreprise d’IA avait abandonné sa mission d’origine à but non lucratif.

FAQ

Qu’est-ce que Grok ?

Grok est un outil d’intelligence artificielle développé par xAI, permettant de créer et d’éditer des images. Il a été intégré à la plateforme sociale X mais a rencontré des problèmes en raison d’une utilisation abusive.

Quelle a été la réaction des utilisateurs face à ces changements ?

Beaucoup d’utilisateurs se sont exprimés sur les réseaux sociaux, principalement pour critiquer la décision de restreindre l’accès aux fonctionnalités de Grok, arguant que des conséquences disproportionnées pèsent sur les utilisateurs non payants.

Quelles mesures réglementaires pourraient être prises par le gouvernement britannique ?

Le gouvernement pourrait envisager de bloquer X au Royaume-Uni ou d’imposer des amendes élevées pour non-respect de la loi sur la sécurité en ligne, reflétant une volonté de protéger les utilisateurs contre des contenus nuisibles.

Y a-t-il d’autres applications problématiques de l’IA ?

Oui, des outils similaires pourraient être utilisés pour créer des contenus abusifs ou inappropriés sur d’autres plateformes, soulevant des préoccupations sur la régulation et la responsabilité des entreprises technologiques.

Quelles sont les implications de l’affaire Grok pour le futur des technologies d’IA ?

Cette affaire pourrait poser des questions cruciales sur la responsabilité des développeurs d’IA et des plateformes concernant la création de contenu abusif et pourrait influencer la manière dont les lois s’appliquent aux technologies émergentes.