</div>
<p>
<figcaption class="article-featured-image-caption">
<em>Image : Jakub Porzycki / NurPhoto via Getty / Futurism</em>
</figcaption>
</p>Problèmes liés aux applications d’IA
D’après une enquête de 404 Media, Google est impliqué dans la promotion d’applications d’intelligence artificielle (IA) créant des contenus explicites non consensuels, notamment des deepfakes nudiques. Des recherches sur des termes comme “applications d’effeuillage” et “meilleurs deepfakes nudes” affichent des publicités payantes pour des outils tels que « Générateur d’images AI NSFW », qui facilitent la production de contenus explicites à l’égard de personnes réelles, sans leur accord.
Google fait face à de nombreuses critiques pour son incapacité à contenir la montée des deepfakes dans les résultats de recherche, pourtant excessivement faciles d’accès sur sa plateforme. En réponse à ces critiques, l’entreprise a récemment annoncé qu’elle élargirait ses politiques de recherche pour protéger les personnes touchées par ces contenus explicites non consensuels.
Cependant, les rapports de 404 montrent que le problème des deepfakes ne se limite pas seulement aux résultats de recherche. Google en tire également profit grâce à des publicités promouvant les mêmes services d’IA qui permettent la création de contenus intrusifs.
Actions de Google face aux préoccupations
Selon des sources, Google aurait réagi en retirant les publicités et les sites mentionnés par 404 Media. Un représentant de l’entreprise a affirmé que les services créant du contenu synthétique sexuel ou nu sont interdits de publicité sur ses plateformes. De plus, Google serait en train de mener une enquête active sur ce sujet et envisage de suspendre définitivement les annonceurs enfreignant ses règles.
Cependant, des interrogations demeurent quant à la raison pour laquelle des annonceurs ont pu promouvoir de telles applications initialement. Cela souligne un point central du problème.
Les contenus pornographiques deepfakes posent de réels dangers pour leurs victimes. Avec la disponibilité d’outils d’IA capables de créer ces contenus, de nombreux cas problématiques apparaissent, notamment dans les établissements scolaires, où les systèmes éducatifs et les forces de l’ordre peinent à trouver des solutions adaptées.
Pour Google, une plateforme incontournable pour la recherche d’informations, il reste encore beaucoup de chemin à parcourir afin de maîtriser la problématique croissante des deepfakes en ligne et, par conséquent, de rendre moins accessibles les outils conçus pour leur création.
Plus d’informations sur les deepfakes :
- Des collégiens condamnés pour avoir généré des nudes de leurs camarades avec l’IA.
FAQ
Quels sont les dangers des deepfakes ?
Les deepfakes peuvent causer des dommages psychologiques importants à leurs victimes, entraînant humiliation et atteinte à la réputation.
Comment reconnaître un deepfake ?
Il existe des indices visuels, tels que des mouvements des lèvres désynchronisés ou des incohérences dans les expressions faciales. Des outils d’analyse peuvent aussi aider à détecter ces faux contenus.
Quelles lois existent contre la création de deepfakes ?
Les lois varient selon les pays. Certaines régions ont mis en place des mesures spécifiques pour lutter contre la diffusion de contenus non consensuels, notamment en matière de protection de la vie privée.
Quelle est l’implication des plateformes comme Google dans ce problème ?
Ces plateformes, en permettant la publicité pour des outils créant des deepfakes, se retrouvent souvent dans une position délicate, car elles peuvent être perçues comme complices dans la prolifération de contenus nuisibles.
Y a-t-il des moyens de préserver sa vie privée en ligne ?
Oui, des outils et méthodologies existent pour réduire l’exposition de ses données personnelles en ligne, tels que des paramètres de confidentialité stricts et l’évitement de la publication d’images sensibles.
