L’impact des générateurs d’images alimentés par l’IA sur les artistes
L’émergence des générateurs d’images basés sur l’intelligence artificielle a bouleversé le monde de l’art. Ces outils sont capables de créer des images à partir de simples descriptions textuelles, ce qui a suscité l’inquiétude chez de nombreux artistes humains.
La problématique du travail non rémunéré
Un des principaux griefs des artistes réside dans le fait que leurs œuvres originales sont souvent utilisées pour former ces modèles d’IA, sans leur consentement ni compensation. Cette situation soulève des questions éthiques sur l’utilisation des œuvres sans autorisation.
Une solution innovante : Nightshade
Face à cette problématique, une nouvelle approche a été élaborée : un outil appelé Nightshade. Ses concepteurs affirment qu’il permet aux artistes de “contaminer” leurs œuvres par le biais de modifications si discrètes qu’elles échappent à l’œil humain. Cependant, ces altérations perturbent les systèmes d’IA lorsqu’ils tentent de les traiter.
Un groupe de chercheurs, dirigé par le professeur de l’Université de Chicago Ben Zhao, a conceptualisé ce système, qui génère des “échantillons de poison” spécifiquement conçus pour perturber les générateurs d’images comme Stable Diffusion. Dans des essais initiaux, seulement 50 images altérées ont suffi pour amener le modèle à produire des images déformées de chiens. En ajoutant 300 échantillons, le modèle a commencé à produire des images ressemblant davantage à des chats qu’à des chiens.
Une portée étendue
L’efficacité de Nightshade n’est pas limitée à un seul mot ou style. En effet, il a également un impact sur des concepts visuels liés, tels que “chiot” ou “husky”. Cela signifie qu’il peut s’attaquer à des gammes plus larges de créations visuelles. Selon le document de recherche, une quantité modérée d’attaques Nightshade peut destabiliser les caractéristiques générales d’un modèle de génération d’images textuelles, entravant ainsi sa capacité à produire des images significatives.
Un espoir pour les artistes
Les artistes voient dans cette technologie une occasion de reprendre le contrôle sur leur travail. Par exemple, Autumn Beverly, une artiste, exprime sa gratitude pour le développement d’un outil qui redonne du pouvoir aux créateurs.
Nightshade s’appuie sur un autre outil, Glaze, qui a pour but de protéger les artistes en altérant leurs œuvres de manière à ce qu’elles apparaissent inchangées aux yeux humains, mais totalement différentes pour les modèles d’IA. L’idée est d’intégrer Nightshade à Glaze, offrant aux créateurs une défense supplémentaire contre les modèles d’IA.
Un avenir incertain
Malgré ces avancées, la véritable efficacité de ces outils reste à évaluer dans le monde réel. Les modèles d’IA modernes sont formés sur des milliards d’exemples, rendant difficile l’évaluation de l’impact concret de Nightshade et Glaze en tant que dernières lignes de défense contre le vol de travail. Des chercheurs, comme Vitaly Shmatikov de l’Université de Cornell, soulignent qu’il n’y a pas encore de défenses robustes contre de telles attaques.
Le débat sur l’utilisation du travail des artistes pour former les modèles d’IA est de plus en plus brûlant. Récemment, des artistes ont poursuivi les entreprises derrière des générateurs d’images comme Stable Diffusion et Midjourney, arguant que leur travail est menacé.
Des réponses insuffisantes
Certaines entreprises d’IA commencent à proposer des options pour que les artistes puissent exclure leurs œuvres des données d’entraînement. Toutefois, ces propositions semblent trop tardives pour beaucoup d’artistes, qui estiment que les efforts actuels restent largement insuffisants.
Ainsi, Nightshade et Glaze pourraient représenter des outils précieux pour les artistes, leur permettant de reprendre une part de pouvoir en répondant à l’utilisation non autorisée de leurs créations.
Une artiste, Eva Toorenent, ayant déjà utilisé Glaze, se dit confiante que Nightshade incitera les entreprises d’IA à réfléchir à deux fois avant d’utiliser leur travail sans consentement.
FAQ
Quelle est la principale fonction de Nightshade ?
Nightshade est conçu pour altérer subtilement des œuvres d’art afin de nuire aux modèles d’IA sans que cela ne soit perceptible pour les humains.
Quel est l’objectif de Glaze ?
Glaze vise à protéger les artistes en modifiant leurs œuvres d’une manière invisible pour l’œil humain, mais qui donne une nouvelle apparence aux modèles d’IA.
Les générateurs d’images IA ont-ils un impact économique sur les artistes ?
Oui, de nombreux artistes constatent que ces outils commencent à leur faire perdre des opportunités professionnelles, notamment dans le domaine de l’illustration.
Les artistes ont-ils déjà poursuivi les entreprises d’IA ?
Oui, plusieurs artistes ont intenté des actions en justice contre des entreprises comme Stable Diffusion et Midjourney pour avoir utilisé leur travail sans compensation.
Quelles sont les réactions des entreprises d’IA face à ces préoccupations ?
Certaines entreprises commencent à mettre en place des options pour que les artistes puissent exclure leurs œuvres de l’entraînement AI, bien que beaucoup jugent ces actions insuffisantes.