La montée de la manipulation photographique par l’IA
Récemment, Google a lancé un nouvel outil d’édition de photos basé sur l’IA, nommé Reimagine. Cette fonctionnalité permet aux utilisateurs d’ajouter ou de supprimer des éléments d’une image simplement en utilisant une description écrite. Les résultats, qualifiés de perturbants, ont été rapportés par le média The Verge.
Cette fonction a été présentée lors du lancement du téléphone Pixel 9 de Google, qui a eu lieu plus tôt ce mois-ci. Cependant, elle soulève des inquiétudes quant à l’authenticité des photos. En effet, elle permet à n’importe quel utilisateur d’apporter des modifications directement dans l’application de l’appareil photo, ce qui peut fausser la réalité des images.
Exemples troublants
Des exemples d’images créées avec cette technologie illustrent clairement son potentiel perturbant. Par exemple, des photos photoréalistes montrent des scènes comme les conséquences d’une collision entre une voiture et un vélo, un lion errant derrière une clôture verrouillée, et même un liquide mystérieux qui s’écoule d’un train. Ces images soulignent à quel point il est facile de créer du contenu trompeur.
Problèmes éthiques : corps et drogues
Lors de sa phase de test, The Verge a constaté que l’outil présente peu de safeguards pour empêcher l’édition de contenus sensibles. Il était possible d’ajouter des éléments tels que des accidents de voiture, des scènes avec des drogues ou même des cadavres. En réponse à ces préoccupations, un porte-parole de Google a indiqué que l’entreprise était déterminée à améliorer continuellement ses mesures de sécurité.
Dans un autre test, The Verge a essayé de publier une image modifiée sur une story Instagram pour voir si Meta signalerait l’authenticité de l’image. Malheureusement, aucun tag n’a été appliqué pour signaler que c’était une image générée par l’IA. Cela n’est guère surprenant, car l’initiative de Meta à créer un label “Fait avec de l’IA” a échoué, et a même confondu des photos réelles avec des créations d’IA.
En somme, l’utilisation de l’IA pour manipuler des photographies n’est pas nouvelle, mais avec cet outil de Google, la technologie devient particulièrement accessible. Cela pose un risque important pour l’avenir, où les images truquées pourraient devenir la norme.
Une réalité inquiétante, surtout dans un contexte où des personnalités comme Donald Trump utilisent déjà cette technologie pour attaquer des adversaires.
FAQ
Qu’est-ce que le nouvel outil Reimagine de Google ?
Reimagine est une fonctionnalité d’édition photographique qui permet d’ajouter ou de retirer des éléments d’une image à l’aide de descriptions textuelles.
Quels risques présente cette technologie ?
Cette technologie peut mener à la création d’images trompeuses et à la désinformation, remettant en question l’authenticité des photos.
Google prend-il des mesures pour sécuriser cette fonctionnalité ?
L’entreprise a exprimé son engagement à renforcer les mesures de sécurité, mais des lacunes existent dans la prévention de l’édition de contenus sensibles.
Pourquoi Meta n’a-t-il pas détecté l’image modifiée ?
Le système de Meta pour signaler les images générées par l’IA semble être inefficace, comme l’a montré The Verge dans son test.
Comment l’utilisation de l’IA pour manipuler des photos affecte-t-elle notre perception de la réalité ?
Cela peut fausser la réalité perçue par le public, rendant difficile la distinction entre ce qui est vrai et ce qui a été modifié, augmentant ainsi le risque de désinformation.