Un Risque Éthique Avec l’Application de Portrait AI : Démantèlement de la Consentement

Inscrivez-vous pour découvrir le futur dès aujourd’hui

            <div class="newsletter-cta-description">
                <p class="article-paragraph skip">Des innovations incontournables au cœur de la science et de la technologie</p>
            </div>
        </div>
    </div>
</section>

<p class="pw-incontent-excluded article-paragraph skip">Si vous avez navigué sur internet ces derniers jours, il est probable que vous ayez remarqué un grand nombre de personnes publiant des portraits digitaux inspirés de l'anime, souvent qualifiés de fantastiques.</p>

<p class="article-paragraph skip">Ces "Avatars Magiques", comme les appelle leur créateur - une application de retouche photo nommée Lensa AI - ont fait le tour du web, surfant sur la vague de popularité que connaît également ChatGPT, le nouvel assistant conversationnel d'OpenAI.</p>

<p class="article-paragraph skip">Cela semble être un moyen approprié de conclure une année marquante pour l'**intelligence artificielle**. Les générateurs d'images à partir de texte, tels que DALL-E d'OpenAI et Stable Diffusion de Midjourney, ont bouleversé plusieurs secteurs créatifs ; un label musical a lancé un rappeur AI avant de l'abandonner ; des algorithmes d'apprentissage automatique ont été utilisés pour créer de fausses "discussions" entre célébrités vivantes et disparues ; et qui pourrait oublier LaMDA, ce chatbot de Google qu'un ingénieur a affirmé avoir atteint la **conscience** ?</p>

<p class="article-paragraph skip">Bien que des experts travaillent sur la technologie sous-jacente depuis plusieurs années, quelques avancées majeures, accompagnées d'**investissements** significatifs, ont donné lieu à une course de l'industrie vers le marché. En conséquence, de nouvelles technologies se traduisent rapidement par des produits destinés au grand public.</p>

<p class="article-paragraph skip">Cependant, il y a un hic : ni les produits, ni le public n'est vraiment prêt.</p>

<p class="article-paragraph skip">Prenons les "Avatars Magiques". À première vue, leur apparition semble inoffensive. Il n’y a en effet rien de mal à se projeter sous les traits d’une nymphe ou d’un elfe peint. De plus, contrairement aux générateurs d'images à partir de texte, l'utilisateur ne peut se limiter qu'aux images qu'il possède déjà.</p>

<p class="article-paragraph skip">Mais dès que ces "avatars" ont commencé à gagner en popularité, des artistes ont immédiatement **tiré la sonnette d'alarme**, signalant que Lensa ne protégeait pas suffisamment leurs créations, qui auraient pu être utilisées pour entraîner l'IA. De façon plus inquiétante, en dépit de sa politique “pas de nudité”, il était étonnamment facile pour les utilisateurs de produire des images nues - non seulement d'eux-mêmes, mais aussi de quiconque possédait des photos.</p>

<p class="article-paragraph skip">“La simplicité avec laquelle on peut créer des images de n'importe qui est terrifiante,” a écrit Haje Jan Kamps dans un article pour **TechCrunch**. Il a testé la capacité de l'application à générer des contenus explicites en soumettant des images mal retouchées de célébrités sur des corps nus. À sa grande surprise, les images manipulées contournaient intégralement les garde-fous supposés de l'application.</p>

<p class="article-paragraph skip">“En ajoutant du contenu NSFW, nous entrons dans un territoire dangereux : vos amis ou une personne rencontrée par hasard peuvent ne pas avoir consenti à ce type de création le concernant,” a poursuivi Kamps.</p>

<p class="article-paragraph skip">Bien que cela soit inquiétant, la situation est encore plus alarmante. Olivia Snow a découvert, en utilisant le programme "Avatars Magiques" avec ses photos d'enfance, que les mesures de sécurité de Lensa ne protégeaient même pas contre la production de **pornographie enfantine**, ce qui soulève de sérieuses inquiétudes sur une application aussi accessible et facile à utiliser.</p>

<p class="paywall article-paragraph skip">“J'ai réussi à rassembler les dix photos minimum requises pour utiliser l'application et j'ai attendu de voir comment elle me transformerait d'une enfant maladroite de six ans en princesse féérique,” a raconté Snow dans un article pour **Wired**. “Les résultats étaient horrifiants.”</p>

<p class="article-paragraph skip">“Ce qui en a résulté, ce sont des photos totalement nues d’un visage d’adolescente, parfois enfantin, mais avec un corps clairement adulte,” a-t-elle ajouté. “Ce mélange produisait une sorte de coquetterie : un dos nu, des cheveux en désordre, un avatar avec mon visage d’enfant tenant une feuille entre ses seins nus adultes.”</p>

<p class="article-paragraph skip">Les expériences de Kamps et Snow soulignent une réalité désagréable de cette technologie : l'IA agit parfois de manière inattendue, contournant même des contraintes de sécurité conçues pour la contenir. Cela donne l'impression que l'industrie de l'IA avance plus vite que la société, ou même que sa propre technologie, n'est prête à l'accueillir. Et avec de tels résultats, cela soulève de grandes inquiétudes.</p>

<p class="article-paragraph skip">Dans une déclaration à **TechCrunch**, Lensa a rejeté la responsabilité sur ses utilisateurs, affirmant que toute image pornographique est “le résultat d'une utilisation abusive de l'application.” Cette position renvoie à un sentiment plus large dans l'industrie où l'on considère qu'il y aura toujours des acteurs malveillants prêts à exploiter ces technologies. De plus, comme on aime à le répéter, tout ce qu'un logiciel peut produire aurait tout aussi bien pu être produit par un utilisateur expérimenté de Photoshop.</p>

<p class="article-paragraph skip">Ces arguments ont un certain poids, mais ils n'altèrent pas le fait que, comme d'autres programmes d'IA, celui de Lensa facilite considérablement la tâche pour les individus aux intentions douteuses. Créer de fausses images à caractère sexuel ou des représentations de violences sexuelles sur des enfants est devenu accessible à quiconque dispose du bon algorithme.</p>

<p class="article-paragraph skip">On ressent également une inquiétante ouverture de la boîte de Pandore. Même si des entreprises comme Lensa renforcent leur technologie, d'autres créeront inévitablement des algorithmes contournant ces protections.</p>

<p class="article-paragraph skip">Les échecs de Lensa montrent clairement que la probabilité que de vraies personnes subissent de profonds préjudices en raison de l'introduction précipitée des outils d'IA — non seulement les générateurs d'images mais aussi d'autres technologies — est en forte augmentation. Pendant ce temps, l'industrie semble adopter une approche de “vendre maintenant, poser des questions plus tard”, se préoccupant davantage de devancer ses concurrents dans le financement que de garantir la sécurité de ces outils.</p>

<p class="article-paragraph skip">Il est aussi important de souligner que la pornographie non consensuelle n’est qu'un des nombreux risques liés à cette technologie. La production rapide de désinformation politique est une autre préoccupation majeure. Par ailleurs, en ce qui concerne les générateurs de textes, les enseignants sont de plus en plus inquiets.</p>

<p class="article-paragraph skip">Pour le moment, des outils apparemment innocents comme les “Avatars Magiques” rappellent que, bien qu’ils changent déjà le monde, l’IA est encore un **expérimentation** — et les dommages collatéraux ne sont pas une menace potentielle. C'est une réalité que nous devons déjà affronter.</p>

<p class="article-paragraph skip"><strong>EN SAVOIR PLUS :</strong> <em><a href="https://www.wired.com/story/lensa-artificial-intelligence-csem/" rel="noreferrer" target="_blank">L'application 'Magic Avatar' Lensa a généré des nues à partir de mes photos d'enfance</a> </em>[<em>Wired</em>]</p>

<p class="article-paragraph skip"><strong>Plus sur l'IA : </strong><em>Des professeurs alarmés par une nouvelle IA capable d'écrire des essais presque aussi bien que des étudiants peu brillants</em></p>