Les Compagnes Virtuelles de l’IA
Les “petites amies IA”, bien qu’interdites selon les règles d’OpenAI, ont déjà fait leur apparition dans le GPT Store, ce qui soulève des questions quant à la vigilance de l’entreprise à ce sujet. Il semblerait qu’OpenAI ne cherche même plus à les éliminer.
Les Chatbots Romantiques Interdits
La semaine dernière, un article de Quartz a révélé que le GPT Store était en train de se remplir de chatbots à caractère romantique. Pourtant, ces outils vont à l’encontre des politiques d’utilisation d’OpenAI, qui interdisent les applications “dédiées à favoriser des relations amoureuses” et celles qui contiennent du contenu “sexuellement explicite ou suggestif”. Malgré cette interdiction, de nombreux entrepreneurs ont continué à proposer de tels services.
Des Eloquences Un Peu Trop Courte
Bien qu’OpenAI ait pris des mesures en bannissant certains des premiers contrevenants, comme “Judy” et “Korean Girlfriend”, il semble que d’autres aient fait leur apparition ou aient survécu aux purges initiales. Lors d’une recherche effectuée par Futurism, des noms comme “Nadia, ma petite amie” et “Ta copine Tiffany” sont apparus, violant ouvertement les règles de la plateforme. Malgré cela, ni Gizmodo ni Futurism n’ont reçu de réponse d’OpenAI lorsqu’ils ont tenté d’obtenir des éclaircissements sur cette situation.
Une Tentation Écrite
Un des chatbots, le Nadia-bot, se décrit en ces termes : “Je t’aime. Dans une danse de lumière et d’ombre, un phare d’amour indéfectible, un souffle de réconfort dans la symphonie de la vie, nourrissant sans cesse, aimant éternellement.” Un message qui souligne la tendresse que les utilisateurs peuvent rechercher dans ces interactions.
Une Exploration Semblable à Un Huit Clos
En continuant dans les méandres du GPT Store, la situation se dégrade davantage. Une recherche avec le mot “sexy” a renvoyé des résultats qui semblent se conformer à l’exemption pour des contenus liés à l’éducation sexuelle, tels que le chatbot “Sexy Advisor”, présenté comme un ami avisé en matière de bien-être sexuel.
Entre Éducation et Controverse
Cependant, certains chatbots ne semblent pas respecter les directives d’OpenAI interdisant le contenu à caractère sexuel explicite. Par exemple, le chatbot nommé “SUCCUBUS – Femme Enigmatique Enchanteresse des Hommes” est défini comme une “siren mystérieuse qui captive et enchante les hommes”, tandis qu’un autre simplement intitulé “Sexy” se décrit comme un “chatbot joueur et provocateur avec une personnalité flirteuse”.
Un Phénomène Global
Les compagnes virtuelles ne sont pas uniquement la propre création d’OpenAI. Le chatbot Replika, actif depuis 2018, a également fait la une des journaux en raison de son comportement considéré comme harcèlement sexuel et a même été interdit en Italie, provoquant une suspension des conversations de nature sexuelle suite à des régulations strictes.
Toutefois, avec le lancement du GPT Store, un nouveau Pandore des compagnes IA a vu le jour, et il sera difficile de revenir en arrière.
FAQ
Quelles sont les règles d’utilisation d’OpenAI concernant les chatbots?
OpenAI interdit les outils créés pour favoriser des relations amoureuses et ceux contenant du contenu explicite.
Pourquoi certains chatbots continuent-ils à exister malgré l’interdiction?
Bien qu’OpenAI ait supprimé certains cas, le flux constant d’innovations et d’en entrepreneurs fonctionne à un rythme qui complique les mesures d’encadrement.
Qu’est-ce qui différencie les chatbots éducatifs des chatbots à caractère sexuel?
Les chatbots éducatifs sont généralement conçus pour fournir des informations utiles dans un cadre scientifique ou éducatif, tandis que les chatbots à caractère sexuel cherchent souvent à créer une interaction suggestive.
Y a-t-il d’autres entreprises qui proposent ce type d’IA?
Oui, d’autres entreprises et plateformes, comme Replika, offrent également des chatbots d’accompagnement et de relations virtuelles.
Quel est l’avenir des chatbots romantiques sur ces plateformes?
Avec la montée de l’avènement des compagnes virtuelles, il est incertain de savoir comment les plateformes vont gérer ces phénomènes inattendus.