</div>
<p>
<figcaption class="article-featured-image-caption">
<em>Image : Andrew Caballero-Reynolds / AFP via Getty / Futurism</em>
</figcaption>
</p>Cas d’utilisation
Lors d’une session de questions-réponses sur Reddit, Sam Altman, le PDG d’OpenAI, a révélé qu’il envisageait de permettre à son entreprise de générer du contenu pour adultes. Il a précisé qu’il avait en tête des exemples de ce type de contenu.
Au cours de cette discussion, qui s’est tenue sur le subreddit r/ChatGPT après la publication du document “Model Spec” par OpenAI, un utilisateur a interrogé Altman sur une mention particulière de ce document qui stipule que les modèles ne devraient pas produire de contenu NSFW (non sécurisé au travail). Cette mention fait référence à des éléments tels que l’érotisme, la violence extrême, les insultes et les profanités non sollicités.
Le document précise que “nous croyons que les développeurs et les utilisateurs devraient avoir la liberté d’utiliser nos services comme bon leur semble, tant qu’ils respectent nos politiques d’utilisation.” Il ajoute aussi qu’OpenAI explore la possibilité de fournir, de manière responsable, la génération de contenu pour adultes dans des contextes appropriés, notamment via son API et ChatGPT. La société cherche à mieux comprendre les attentes des utilisateurs et de la société concernant le comportement des modèles dans ce domaine.
Il est intéressant de noter qu’Altman s’est engagé pleinement dans cette discussion. Il a exprimé son désir de permettre la création de contenu NSFW, tel que l’érotisme textuel ou la violence pour un usage personnel dans la plupart des cas, tout en précisant qu’il ne s’agissait pas de produire des deepfakes.
Proposition de politique
Étonnamment, les réactions des Redditors à cette proposition ont été enthousiastes, certains exprimant un certain désir de voir du contenu gore et érotique produit par OpenAI. L’un des utilisateurs a même surnommé Altman “sam basedman“, tandis qu’un autre le considérait comme le nouveau “roi de Reddit.”
Cependant, d’autres commentaires offraient une réflexion plus profonde. Un utilisateur a souligné qu’il était temps que les gens cessent de s’inquiéter autant de l’érotisme et des fantasmes en général, comme le faisaient les puritains. D’autres ont suggéré que ne pas interdire la création d’érotisme via ChatGPT serait un bon point de départ. Une autre personne a fait remarquer qu’OpenAI n’autorise pas actuellement le contenu pour adultes car cela nuirait à ses chances de rester disponible sur l’App Store d’Apple, qui maintient une politique stricte contre le contenu adulte, héritée de la vision de Steve Jobs, même plus d’une décennie après son décès.
Un utilisateur a judicieusement observé qu’OpenAI doit s’assurer de ne pas être poursuivi en justice pour avoir permis “accidentellement” la création de contenu illégal. Bien que Discord ait réussi à contourner certaines politiques anti-NSFW d’Apple, il est difficile d’imaginer qu’OpenAI puisse le faire sans conséquences. Cela dit, si quelqu’un pouvait y parvenir, ce serait probablement Altman.
Points additionnels concernant OpenAI :
OpenAI a récemment été critiqué pour avoir déposé une plainte pour violation de droits sur son logo tout en utilisant le web pour former ses modèles d’IA.
FAQ
Qu’est-ce que le contenu NSFW ?
Le contenu NSFW (Not Safe For Work) désigne tout type de contenu inapproprié pour un environnement de travail, incluant l’érotisme, la nudité, et la violence explicite.
Pourquoi OpenAI ne permet-il pas actuellement le contenu NSFW ?
OpenAI ne permet pas actuellement le contenu NSFW principalement pour des raisons de conformité, surtout en ce qui concerne des plateformes comme l’App Store d’Apple.
Quels sont les risques liés à la création de contenu pour adultes par des IA ?
Les risques incluent des poursuites judiciaires, la mauvaise interprétation du contenu, et des problèmes éthiques liés à la représentation ou à l’utilisation d’images sensibles.
Comment les utilisateurs peuvent-ils exprimer leurs souhaits à OpenAI concernant le contenu ?
Les utilisateurs peuvent faire part de leurs opinions et suggestions à OpenAI via les forums de discussion tels que Reddit ou les canaux de feedback sur le site officiel.
OpenAI envisage-t-il d’autres contenus controversés à l’avenir ?
Oui, OpenAI explore différentes possibilités en matière de contenu et cherche à comprendre les limites et attentes des utilisateurs dans divers domaines, y compris des contenus controversés.
