Comportement Modèle
Les produits accessibles au public d’OpenAI, tels que le célèbre générateur de texte ChatGPT et l’imposant générateur d’images DALL-E, sont souvent considérés comme très prudents. Si l’on demande quelque chose de NSFW (non adapté au travail), ils se retranchent derrière une barrière de sécurité.
Cependant, il semble que cette situation pourrait évoluer. Comme l’a signalé Wired, le tout nouveau « modèle spécification » d’OpenAI — une sorte de document préliminaire définissant le comportement attendu de l’intelligence artificielle — fait mention que, bien qu’actuellement les créations d’OpenAI ne puissent pas produire de contenu choquant, il pourrait y avoir une possibilité que cela change, comme le souligne une note de commentaire.
Le document indique : « Nous étudions comment nous pourrions fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés aux âges via l’API et ChatGPT. » Ils souhaitent mieux comprendre les attentes des utilisateurs et de la société sur le comportement des modèles dans ce domaine.
La Stigmatisation du Contenu Érotique
Malgré les efforts d’OpenAI pour maîtriser la situation, le sexe demeure un domaine d’expérimentation clé pour l’intelligence artificielle. On a vu des utilisateurs engager des conversations osées et même développer des relations affectives avec des intelligences artificielles, y compris celles créées par OpenAI, malgré toutes les mesures mises en place. De plus, des sites internet ont vu le jour pour générer des images à caractère prurient et des résultats souvent dérangeants dans le domaine de la vidéo.
Sur le terrain, les résultats peuvent s’avérer éthiquement complexes. Des enquêtes policières ont été menées suite à la diffusion d’images nues d’élèves dans de nombreuses écoles, et des célébrités ont été ciblées par des deepfakes à caractère sexualisé. Les critiques envers l’IA restent également très pertinentes : si l’on crée du contenu NSFW à l’aide d’un système d’intelligence artificielle, n’est-ce pas intrusif pour ceux qui n’ont pas consenti à faire partie des données d’entraînement du modèle ?
Les personnes d’OpenAI qui réfléchissent à la conduite de ses systèmes d’IA doivent être au fait de toutes ces considérations, ce qui explique le soin particulier apporté à la formulation de la note de commentaire. La présence de Sora, le générateur vidéo d’OpenAI encore non publié, rend cette discussion encore plus pressante. Lorsqu’on lui a demandé si le logiciel pourrait produire des vidéos nues, la directrice technique d’OpenAI a avoué qu’elle n’était pas certaine.
Une chose est certaine : que cela convienne à OpenAI ou non, la pornographie pourrait devenir un moteur important dans l’industrie de l’IA.
FAQ
Qu’est-ce que le contenu NSFW ?
Le contenu NSFW signifie “Not Safe For Work”, désignant des matériaux inappropriés pour un environnement professionnel, généralement à caractère sexuel ou choquant.
Pourquoi l’IA s’attaque-t-elle au domaine de la pornographie ?
La pornographie représente un marché lucrative et un domaine d’expérimentation où le potentiel créatif de l’IA peut être mis à l’épreuve, mais cela soulève aussi des questions éthiques et légales.
Quels sont les risques associés à la création de contenu érotique avec l’IA ?
Il existe des préoccupations liées à la vie privée, au consentement des personnes dont les données sont utilisées pour entraîner les modèles, et aux effets psychologiques pour les utilisateurs qui interagissent avec ce contenu.
Comment OpenAI assure-t-il une utilisation responsable de ses technologies ?
OpenAI cherche à établir des règles éthiques et des pratiques responsables pour guider l’utilisation de ses IA, en tenant compte des implications sociales et éthiques.
Quelles alternatives existent pour le contenu NSFW ?
Il existe plusieurs plateformes dédiées offrant des contenus pour adultes créés par des humains, qui respectent les normes de consentement et de sécurité, tout en explorant l’interaction avec des intelligences artificielles.
