Sora et la question de la nudité
OpenAI fait face à une question délicate concernant son nouveau générateur vidéo, Sora : pourrait-il produire des images de nudité ? Cette possibilité soulève de sérieuses préoccupations pour l’entreprise.
Dans une récente entrevue avec le Wall Street Journal, Mira Murati, la directrice technique d’OpenAI, a fait état de la complexité du sujet. Lorsqu’on aborde la question de la nudité, elle a avoué qu’ils n’avaient pas encore trouvé de réponse claire. « Il est possible que des artistes souhaitent avoir un contrôle accru sur ce type de contenu », a-t-elle expliqué, ajoutant qu’ils collaboraient avec des créateurs de divers horizons pour déterminer l’utilité et le degré de flexibilité que devrait offrir l’outil.
Il s’agit d’une réponse étonnamment franche, surtout à un moment où l’entretien aurait pu passer inaperçu. Toutefois, certains spécialistes craignent que si Sora permet la nudité créative, cela pourrait ouvrir les portes à une surabondance de contenus explicites.
Daniel Colson, fondateur et directeur de l’AI Policy Institute (AIPI), met en garde : « Environ 90 % de la demande pour des vidéos générées par l’IA pourrait concerner la pornographie. Cela crée une dynamique délicate. Si les entreprises centralisées ne fournissent pas ces contenus, cela risque d’engendrer un marché noir extrêmement actif. »
Les défis de l’IA et de la régulation
Avec la facilité d’exploitation des modèles d’IA, il est presque certain que certaines personnes chercheront à pousser Sora à produire du contenu pornographique. Cela place OpenAI dans une situation difficile : ils n’ont pas de bon choix, peu importe la direction qu’ils choisissent.
D’après certaines sondages, le public ne se limite pas à s’inquiéter de l’utilisation des modèles d’IA pour créer des contenus pornographiques trompeurs, comme les images dégradantes de Taylor Swift, mais 86 % estiment également que les entreprises devraient être tenues responsables de la laxisme de leurs garde-fous.
« Cela montre bien que le public prend cette technologie au sérieux », souligne Colson. « Ils voient son potentiel et les conséquences qui peuvent en découler. Les entreprises technologiques déploient ces modèles de manière à transformer radicalement la société. »
Ces préoccupations sont clairement perçues par une large partie de la population, mais il est légitime de se demander pourquoi OpenAI ne semble pas les prendre en compte avec le même sérieux.
FAQ
Quelles mesures OpenAI prend-elle pour éviter la génération de contenu inapproprié ?
OpenAI pense mettre en place des systèmes de régulation rigoureux pour contrôler l’utilisation de Sora, incluant des partenariats avec des créateurs et des experts.
Quels types de contenu pourraient être générés par Sora ?
Outre la possibilité de créer des contenus pour des œuvres d’art, Sora pourrait également générer des vidéos dans des domaines comme le cinéma, les jeux vidéo et les publicités.
Comment les utilisateurs pourraient-ils réclamer des abus dans l’utilisation de Sora ?
OpenAI prévoit d’instaurer un système de signalement pour permettre aux utilisateurs de signaler des abus ou des contenus problématiques générés par Sora.
Quelles seraient les conséquences pour OpenAI si Sora génère des émissions pornographiques ?
Si des contenus pornographiques étaient générés, cela pourrait nuire à la réputation d’OpenAI et entraîner des problèmes juridiques potentiels, selon la législation en vigueur.
Pourquoi est-il important de discuter de la nudité dans un contexte artistique ?
La nudité artistique a une longue histoire, mais avec l’IA, les discussions deviennent plus complexes en raison de sa capacité à créer des images sans la volonté du modèle, soulevant des questions éthiques importantes.
