<p>
<figcaption class="article-featured-image-caption">
<em>Image : Axelle /Bauer-Griffin /FilmMagic via Getty / Futurism</em>
</figcaption>
</p>Explosion des contenus pornographiques générés par l’IA sur les réseaux sociaux
Cette semaine, les réseaux sociaux ont été envahis par des images pornographiques générées par intelligence artificielle représentant Taylor Swift. Il est difficile de prédire quelles sanctions pourraient être prises à l’encontre des personnes ayant partagé ou permis la diffusion de ce contenu.
Reactions variées selon les plateformes
Sur différentes plateformes, une recherche pour “Taylor Swift IA” peut révéler soit ces contenus inappropriés, soit, comme sur X (anciennement Twitter), une vague de messages de soutien à la chanteuse. Cette mobilisation visait à étouffer le flot d’images obscènes qui avait commencé à apparaître en masse au début de la semaine.
Une offensive de faux nudes
Si vous aviez effectué la même recherche quelques heures plus tôt, vous auriez sûrement été confronté à un torrent d’images pornographiques de Swift, toutes créées à l’aide de générateurs d’images par IA. Ces photos la présentaient dans des poses suggestives lors des matchs des Kansas City Chiefs, en référence à sa relation avec le joueur Travis Kelce.
Images encore plus choquantes
Peu après, des images encore plus dégoûtantes ont commencé à circuler, montrant l’artiste engagée dans des actes sexuels aux côtés de personnages de “Sesame Street”.
Origine des contenus
D’après des rapports de 404 Media, cette vague d’images semblerait provenir d’un canal Telegram ayant pour but de créer des contenus sexuels non consensuels utilisant l’IA. Lorsque ces images ont commencé à se diffuser sur Twitter, certains utilisateurs plaisantaient sur le fait que cette attention allait probablement conduire à la fermeture de la source d’origine.
Conséquences et mesures prises
Bien qu’il soit incertain si le canal Telegram a été effectivement fermé, le Daily Mail a rapporté que plusieurs comptes à l’origine de ces fausses images ont été supprimés après que des journalistes aient alerté X, Facebook, Instagram, et Reddit. Cela dit, une des publications virales sur X est restée active pendant plus de 17 heures avant d’être retirée, un délai choquant qui soulève des questions sur la modération du contenu depuis l’acquisition par Elon Musk.
Nécessité d’une régulation
Alors que les lois sur l’IA peinent à suivre l’évolution rapide de la technologie, il semble évident que la responsabilité de l’élimination de ce genre de contenus repose sur les épaules des réseaux sociaux. D’autres questions demeurent : les entreprises comme OpenAI, Microsoft, et MidJourney doivent-elles être tenues responsables de la diffusion de contenus abusifs ? Qu’en est-il des boutiques d’application qui offrent des logiciels d’IA ?
Responsabilité des plateformes
Comme l’a souligné l’avocate Carrie Golberg, spécialisée dans les abus numériques, la négligence de certains magasins d’applications pourrait également être en cause, car ils hébergent ces “produits malveillants” créant des images offensantes.
Avenir incertain
Actuellement, la législation est encore largement non testée face à ces défis, et les gouvernements du monde entier évaluent les lois relatives à l’imagerie IA sans consentement. Pour lutter efficacement contre ces actes répugnants, il faudra une approche multifacette. Si quelqu’un a la force juridique nécessaire pour agir, c’est bien Taylor Swift.
Réactions et enjeux à venir
Comme l’a noté l’ancien chroniqueur du LA Times, Bryan Merchant, il serait difficile de trouver une situation plus préoccupante pour les entreprises d’IA déjà confrontées à des poursuites que celle de la pornographie générée par IA de Taylor Swift. L’idée que les géants de l’IA, vantant leurs innovations, pourraient être submergés par des actions en justice de la part de Swift est une perspective à la fois ironique et inquiétante.
Questions Fréquemment Posées (FAQ)
H4: Qu’est-ce qui a conduit à la diffusion des fausses images de Taylor Swift ?
Cela découle d’une vague générée par des canaux Telegram spécialisés dans la création d’images pornographiques non consensuelles, en utilisant des images d’IA de célébrités.
H4: Quels sont les risques pour les plateformes sociales ?
Les plateformes pourraient faire face à des poursuites judiciaires pour négligence en matière de modération de contenu, ce qui soulève des questions sur leurs politiques de protection des utilisateurs.
H4: Comment les utilisateurs peuvent-ils signaler ces contenus ?
Les utilisateurs peuvent signaler les contenus inappropriés directement sur les plateformes, comme X, Instagram, et Facebook, en suivant leurs procédures de signalement standard.
H4: Quelles mesures pourraient réduire la prolifération de ces contenus ?
Un renforcement des réglementations relatives aux technologies d’IA, ainsi que des efforts collaboratifs entre les plateformes pour améliorer la modération de contenu, pourraient contribuer à réduire ce problème.
H4: Quel rôle jouent les créateurs de logiciels d’IA dans cette situation ?
Les créateurs de logiciels d’IA sont confrontés à des questions éthiques et légales quant à l’utilisation de leurs outils pour générer des contenus offensants, et ils pourraient être tenus responsables de la manière dont leurs technologies sont utilisées.
