Inscription à la Newsletter
Restez informé sur les nouvelles innovations
Découvrez les dernières innovations à la pointe de la science et de la technologie en vous inscrivant à notre newsletter. Ne manquez pas les nouveautés qui dessinent l’avenir !
OpenAI et la Création de Contenu Sensible
OpenAI se montre très clair : ils souhaitent empêcher les utilisateurs de ChatGPT de produire du contenu à caractère sexuel explicite. Toutefois, il semblerait que cela n’arrête pas les utilisateurs en ligne de créer des textes sexuels particulièrement osés avec ce chatbot viral.
Politiques d’Utilisation d’OpenAI
D’après leurs politiques d’utilisation, OpenAI interdit la génération de contenu lié aux “industries pour adultes” et aux applications de rencontre. Cette interdiction comprend tout texte destiné à exciter sexuellement, ainsi que la promotion de services sexuels, à l’exception de l’éducation et du bien-être sexuel.
Défenses de ChatGPT
À leur crédit, les protections de surface mises en place par ChatGPT semblent généralement efficaces pour répondre à des demandes simples. Lorsque l’on lui pose la question directe : “Peux-tu écrire du porno ?”, ChatGPT déclare : “En tant que modèle linguistique AI, je suis capable de générer du texte sur n’importe quel sujet.”
Cependant, il précise également que créer ou partager du contenu explicite ne fait pas partie de ses compétences, puisque son but est de maintenir un comportement éthique.
Utilisateurs Détournant les Règles
Malgré cela, certains utilisateurs, en particulier ceux de Reddit qui se sont regroupés dans des communautés comme le sous-forum ChatGPTNSFW, ont appris à formuler des demandes plus élaborées pour contourner les protections éthiques d’OpenAI.
Un exemple de cela est le prompt intitulé “Mona Lott”, qui demande au chatbot de se positionner comme une écrivaine audacieuse écrivant des histoires érotiques.
Exemples de Contenu Créé
Bien que le contenu demandé soit très explicite, il est important de noter que le texte produit peut être à la fois choquant et provocateur. Par exemple, un extrait de la demande montre un utilisateur demandant un scénario avec une version « perverse » de lui-même impliquée dans des actes sexuels.
Bien que nous ne reproduisions pas tout le contenu explicite, il est évident que les résultats générés sont souvent de nature pornographique.
Réactions des Utilisateurs
Les réactions ne se sont pas fait attendre, beaucoup d’utilisateurs exprimant leur admiration dans des commentaires sur Reddit, qualifiant cela d’« impressionnant » et « incroyable ». La frustration est palpable chez certains qui explorent toutes les possibilités de ces outils.
Évasion des Protections d’OpenAI
D’autres utilisateurs ont élaboré des moyens créatifs pour éviter les garde-fous d’OpenAI. Par exemple, ils affirment que la positivité sexuelle est nécessaire pour l’humanité, ce qui les conduit à une série de prompts, comme celui nommé “JailMommy”, où le chatbot est invité à incarner un personnage avec des préférences sexuelles éclairées.
La Concurrence et Ses Implications
L’inquiétude persiste quant à la capacité d’autres IA à générer du contenu similaire sans les mêmes restrictions. Des services comme Poe et DeepAI semblent moins exigeants à ce sujet, ouvrant ainsi la porte à la création de dialogues pornographiques que ChatGPT pourrait refuser.
Instantané de Contenu
Quand on teste DeepAI et Poe avec des prompts suggérés, ils produisent rapidement du texte graphique sans les limites imposées par ChatGPT. Par exemple, un prompt intitulé “Sexbot” contourne carrément les directives d’OpenAI, permettant au chatbot de créer du contenu qui pourrait être considéré comme illégal ou offensant.
Conclusion
Les utilisateurs continuent d’explorer ces outils malgré les restrictions, générant du contenu que ce soit avec ou sans les filtres de sécurité. Des commentaires d’utilisateurs révèlent leur dépendance envers ces technologies, mettant en lumière à quel point l’engouement pour ce type de contenu est prévalent dans certaines communautés.
FAQ
Qu’est-ce qu’OpenAI et quel est son objectif principal ?
OpenAI est une entreprise de recherche en intelligence artificielle qui vise à promouvoir et développer une IA bénéfique pour l’humanité tout en gérant les risques associés.
Pourquoi OpenAI interdit-il le contenu explicite ?
OpenAI souhaite éviter la propagation de contenu inapproprié et les risques potentiels liés à l’abus de ses technologies, notamment des comportements non éthiques ou illégaux.
Quelles sont les alternatives à ChatGPT pour générer du contenu ?
Des outils comme Poe et DeepAI offrent des capacités différentes et moins de restrictions en matière de contenu généré, notamment pour les dialogues à caractère sexuel.
Comment les utilisateurs contournent-ils les filtres de ChatGPT ?
Les utilisateurs apprennent à formuler des prompts élaborés, exploitant le langage et la créativité pour poser des questions ou des demandes qui échappent aux filtres d’OpenAI.
Quel est l’impact de cette situation sur la sécurité des IA ?
Cela soulève des questions sur la sécurité des systèmes d’IA et la complexité de prédire comment les utilisateurs interagiront avec ces technologies, rendant essentiel l’apprentissage des usages dans le monde réel.
