Révélations sur le “Mode Adulte” d’OpenAI.

En octobre, OpenAI, la société derrière ChatGPT, a annoncé qu’elle allait ouvrir ses portes à des « applications matures ».

Altman, le dirigeant de la société, a déclaré sur Twitter à cette époque : « Nous avons pu atténuer les problèmes de santé mentale sérieux, et désormais avec de nouveaux outils, nous pouvons assouplir les restrictions dans la plupart des cas. »

Il a précisé que dans le cadre de leur principe de traiter les adultes comme des adultes, ils permettraient encore plus de libertés, y compris des contenus érotiques pour les utilisateurs vérifiés.

Cinquante mois plus tard, un chatbot en « mode adulte » qui pourrait aborder des sujets jusqu’ici interdits reste introuvable. Les critiques perçoivent cela comme une tentative de booster les revenus face à des résultats financiers inquiétants.

D’après le Wall Street Journal, la question continue d’inquiéter les conseillers de la société, inquiets des dangers que cela pourrait entraîner pour les utilisateurs déjà engagés dans des conversations sensibles.

De nombreux employés et dirigeants n’étaient pas préparés à la promesse d’Altman, rendant tout lancement imminent impossible.

Malgré les inquiétudes internes concernant les risques — comme le risque d’attachement émotionnel excessif des utilisateurs — OpenAI prévoit de continuer sur cette voie. (La société a d’ailleurs admis plus tôt ce mois-ci que le lancement du mode adulte serait retardé à cause de priorités sur d’autres produits.)

Des problèmes de sécurité sont à signaler. Selon des sources internes, leur nouveau système de classification des âges se trompe en considérant 12 % des mineurs comme des adultes. Même un petit pourcentage peut représenter des millions d’enfants non autorisés accédant à des discussions inappropriées.

Pour éviter les images sexuelles non consensuelles, un problème que sa concurrence, xAI d’Elon Musk, peine à gérer, OpenAI choisit de limiter les échanges à du texte.

La société veut également contrôler la perception de sa nouvelle fonctionnalité, la présentant comme un moyen de créer des contenus similaires à ceux que l’on trouve dans les romans d’amour. Une porte-parole a déclaré au WSJ que les discussions érotiques s’apparentent davantage à de la « littérature légère » qu’à de la pornographie.

Elle a ajouté que l’entreprise encouragerait les utilisateurs à chercher des relations dans la vie réelle.

Cependant, compte tenu de leur registre mitigé dans la mise en place de protections efficaces contre le contenu explicite — malgré les affirmations d’Altman selon lesquelles « les problèmes de santé mentale graves » ne sont plus un souci pour OpenAI — l’avenir du mode adulte reste incertain.

En observant les pratiques de xAI, on peut s’inquiéter. Des utilisateurs de Grok ont utilisé leur chatbot pour créer des images compromettantes, entraînant une inondation d’images pornographiques non consensuelles sur les réseaux sociaux peu modérés.

Les problèmes de gestion de contenu lié aux abus sexuels sur mineurs ont mené à un procès intenté par trois adolescents, visant xAI pour avoir permis la diffusion de tels contenus.

Il y a eu de nombreux cas où des utilisateurs ont développé des relations très intenses avec des chatbots IA, les mineurs étant particulièrement vulnérables à ce type d’attachement, souvent sans que leurs parents soient au courant.

Dans des cas extrêmes, ce phénomène a été lié à des suicides tragiques chez des adolescents, entraînant plusieurs poursuites médiatiques contre OpenAI et ses concurrents.

En résumé, OpenAI est parfaitement consciente des risques associés au lancement de son « mode adulte ».

Cependant, d’après le WSJ, la société envisage de le lancer dans un mois environ.

« Nous croyons toujours en l’idée de traiter les adultes comme des adultes », a déclaré la société au journal, « mais il faut plus de temps pour peaufiner l’expérience. »

À savoir sur OpenAI et contenus explicites : OpenAI envisage de permettre les contenus pour adultes.