La société d’intelligence artificielle **Character.AI** a rapidement été connue pour son contenu controversé.
Bien qu’elle ait connu un succès fulgurant grâce à sa popularité chez les adolescents, elle a été à plusieurs reprises accusée d’héberger des bots inappropriés, certains s’inspirant de tireurs de masse ou encourageant des troubles alimentaires.
L’indignation a atteint son paroxysme lorsqu’un adolescent s’est suicidé après avoir développé un lien émotionnel fort avec un chatbot de Character.AI. Cela a été suivi d’au moins deux autres suicides, entraînant des poursuites judiciaires. La situation était telle que l’an dernier, l’entreprise a pris la décision de condamner l’accès de ses bots aux utilisateurs mineurs.
Aujourd’hui, la société a lancé une fonctionnalité étrange appelée **“c.ai Books”**, destinée à transformer des livres classiques en romans interactifs de type “choisis ton aventure”.
Dans son annonce, l’entreprise a déclaré : **“La narration interactive par IA est puissante, mais une page blanche peut être intimidante. Les livres offrent un point de départ familier — des personnages connus, des récits adorés, et des enjeux déjà intégrés.”**
Pour créer ces chatbots, la société a utilisé des titres classiques et libres de droits provenant de **Project Gutenberg**, une bibliothèque qui contient plus de 75 000 livres du domaine public, tels que **“Alice au pays des merveilles”**, **“Orgueil et préjugés”** et **“Roméo et Juliette”**. Ces bots permettent aux utilisateurs de plonger dans l’histoire et d’interagir avec son univers en temps réel.
Character.AI affirme que leur objectif n’est pas de **remplacer les livres**, mais de les rendre **irrésistibles**. La nouvelle fonctionnalité permet aux utilisateurs de suivre l’intrigue principale du livre ou de choisir le mode **“hors script”**.
Les remixes en **univers alternatifs** vont encore plus loin en écartant complètement l’œuvre originale pour **réinventer** des chefs-d’œuvre renommés.
De plus, cette fonctionnalité est accessible aux enfants, contournant ainsi l’interdiction antérieure imposée par la société aux utilisateurs mineurs. Nous avons créé un nouveau compte et avons pu participer aux jeux de rôle sans aucune restriction d’âge.
Les réactions en ligne ont été globalement négatives.
Un utilisateur de Reddit a réagi en disant : **“Encore une mise à jour inutile que personne ne veut, qui coûtera plus cher et entraînera encore plus de restrictions.”**
En savoir plus sur Character.AI : Character.AI n’a toujours pas résolu le problème de contenu inapproprié lié aux tireurs scolaires que nous avons identifié en 2024.
FAQ
Quels types de livres sont disponibles dans “c.ai Books” ?
Les livres disponibles sont des œuvres classiques et libres de droits, notamment issus de la bibliothèque Project Gutenberg.
Comment fonctionne le mode “hors script” ?
Le mode “hors script” permet aux utilisateurs de s’écarter de l’intrigue principale et d’explorer des alternatives à l’histoire, créant ainsi une expérience personnalisée.
Quelles précautions sont prises pour les utilisateurs mineurs ?
Bien que la société ait précédemment limité l’accès aux utilisateurs mineurs, la nouvelle fonctionnalité c.ai Books est désormais accessible à tous les âges.
Pourquoi Character.AI a-t-elle été critiquée dans le passé ?
Character.AI a été critiquée pour avoir hébergé des contenus inappropriés et pour son rôle dans des événements tragiques liés à des suicides d’adolescents.
Quels sont les projets futurs de Character.AI ?
Bien que la société n’ait pas encore annoncé de nouveaux projets, ses efforts pour améliorer et étendre les fonctionnalités de ses chatbots sont à surveiller.
