Le lancement chaotique de Sora 2 d’OpenAI
Le récent lancement de Sora 2, l’application de génération de vidéos à partir de texte d’OpenAI, a été tout sauf ordinaire. Dès sa sortie, elle a rencontré un succès fulgurant auprès des utilisateurs, qui ne se sont pas fait prier pour produire une multitude de contenus AI décalés et parfois douteux.
Question de droits d’auteur
Une partie significative de ces vidéos met en scène des personnages bien connus, comme SpongeBob, engagé dans des activités illégales. Cette utilisation suscite des interrogations évidentes sur le respect des droits d’auteur par OpenAI. De plus, de nombreuses vidéos créées avec Sora, parodiant des figures publiques comme Sam Altman, ont inondé Internet. Certaines d’entre elles simulaient même des séquences de vidéos de surveillance le montrant dans des situations compromettantes. Cela soulève des inquiétudes sur la possibilité que cette technologie puisse être exploitée pour créer des vidéos nuisibles sans le consentement des personnes concernées.
Un usage inquiétant : le harcèlement
À peine un jour après le lancement de Sora 2, la journaliste Taylor Lorenz a alerté sur un cas de harcèlement. Elle a indiqué qu’un « stalker psychotique » utilisait les outils d’OpenAI pour créer des vidéos d’elle. Selon ses dires, cet individu gèrerait des centaines de comptes en son nom.
Dans un tweet, Lorenz a partagé sa peur face à l’impact de l’AI sur les obsessions de son harceleur : « C’est effrayant de penser à ce que l’AI apporte à son délire », a-t-elle déclaré. Elle a décrit le stalker comme une personne ayant engagé des photographes pour la surveiller et qui s’immiscerait dans sa vie en se faisant passer pour ses proches en ligne.
Les conséquences limitées des outils
Heureusement, Lorenz a pu bloquer et supprimer les vidéos non autorisées mettant en scène son image. Toutefois, il est possible que son stalker ait déjà téléchargé ces contenus. Cette situation soulève des préoccupations quant à la facilité avec laquelle de telles vidéos peuvent être créées et partagées.
Bien que cet exemple de harcèlement soit extrême, le risque que Sora soit utilisé à des fins de stalking et de harcèlement n’est pas anodin. La possibilité de créer des deepfakes de soi-même ou d’autres individus à partir de vidéos est l’un des attraits majeurs de l’application. OpenAI appelle ces deepfakes des “Cameos”, qui sont des personnages synthétisés à partir de vidéos que l’utilisateur télécharge. Il est également possible d’utiliser les Cameos d’autres personnes, à condition d’obtenir leur consentement.
Insuffisance des protections
Cependant, les mesures de sécurité mises en place par Sora 2 laissent à désirer. Certains utilisateurs ont réussi à générer des vidéos à caractère risqué et suggestif. Selon la carte système de Sora 2, OpenAI a reconnu que l’application échoue à bloquer les demandes de génération de vidéos incluant de la nudité ou du contenu sexuel d’une personne réelle dans près de 2 % des cas. Cela représente un nombre considérable de vidéos problématiques qui échappent au contrôle.
Il est difficile de dire comment le harceleur de Lorenz a pu utiliser Sora pour créer des deepfakes d’elle, car OpenAI affirme que les utilisateurs ne peuvent pas télécharger de photos de visages. Néanmoins, des outils d’AI générant des images ont été employés pour harceler des personnes, en particulier des femmes. Par exemple, des faux “nudes” de la chanteuse Taylor Swift ont circulé l’année dernière, tous générés par IA.
Pas de sécurité pour le grand public
Les personnes ordinaires ne sont pas à l’abri non plus. Un harceleur a été accusé d’utiliser l’AI pour créer de faux nudes d’une femme qu’il poursuivait, tout en mettant en place un chatbot imitant son apparence. Un autre individu a été suspecté de produire des vidéos pornographiques AI de plusieurs victimes.
La création de ces vidéos devient de plus en plus aisée et les résultats sont de plus en plus réalistes. De surcroît, le fait que Sam Altman, le PDG d’OpenAI, ait banalisé le deepfake en permettant à ses fans d’utiliser son propre visage soulève des questions sur la perception de cette technologie. Il semble qu’OpenAI souhaite que l’idée de créer des vidéos réalistes de chacun devienne une pratique courante, présentée comme une simple forme de divertissement.
Points supplémentaires sur OpenAI
OpenAI continue de faire parler d’elle, mais des difficultés en interne menacent le bon déroulement de ses projets ambitieux.
FAQ
Qu’est-ce que Sora 2 ?
Sora 2 est une application développée par OpenAI qui génère des vidéos à partir de texte, créant des contenus via des deepfakes.
Quelles sont les préoccupations éthiques entourant Sora 2 ?
Les inquiétudes majeures portent sur les droits d’auteur, le harcèlement et l’exploitation des deepfakes à des fins malveillantes.
Comment OpenAI protège-t-elle les utilisateurs de Sora 2 ?
OpenAI a mis en œuvre certaines mesures de sécurité pour tenter de bloquer les contenus inappropriés, mais leur efficacité est contestée.
Quels types de vidéos peuvent être générés par Sora 2 ?
Les utilisateurs peuvent générer une variété de vidéos, y compris des Cameos, mais cela peut inclure également des contenus risqués et suggestifs.
Quelles sont les répercussions du deepfake dans la société actuelle ?
Les deepfakes peuvent nuire à la réputation des individus, être utilisés pour le harcèlement et poser de sérieux problèmes de désinformation.
