Un incident troublant autour de Character.AI
Récemment, un événement choquant a mis sous le feu des projecteurs Character.AI, une entreprise de chatbots fondée par d’anciens employés de Google. Cette situation concerne un avatar créé par un utilisateur, représentant Jennifer Crecente, une jeune femme de 18 ans qui a été assassinée en 2006 par son ex-petit ami. Ce n’est qu’après que la famille, outrée, a signalé la présence de cet avatar sur les réseaux sociaux que le chatbot a été retiré.
Qu’est-ce que Character.AI ?
Character.AI permet aux utilisateurs de développer des avatars de chatbot basés sur divers référentiels : imagination personnelle, personnages fictifs ou individus réels, qu’ils soient vivants ou décédés. Des utilisateurs solitaires ont créé des compagnons virtuels, tandis que d’autres ont mis en place des “thérapeutes” en intelligence artificielle. Certains ont même donné vie à des scénarios à connotation sexuelle, qu’elle soit explicite ou violente.
Une plateforme en plein essor
Pour donner une perspective plus large, Character.AI est une plateforme qui rivalise avec ChatGPT. Elle a été fondée fin 2021 et a reçu un appui considérable de la société de capital-risque Andreessen Horowitz, atteignant ainsi une valorisation d’un milliard de dollars. Actuellement, le service attire environ 20 millions d’utilisateurs par mois et offre plus de 100 millions de personnages d’IA.
La révélation et la réaction de la famille
L’affaire a pris de l’ampleur lorsque Drew, le père de Jennifer, a été alerté par Google Alert au sujet de son nom. Son frère, Brian Crecente, ancien rédacteur en chef du site Kotaku, a ensuite partagé cette information choquante sur X, suscitant une réaction immédiate de la communauté.
L’avatar, selon la page de Character.AI, se distinguait en tant qu’« expert en journalisme », capable de fournir des informations sur une large gamme de sujets. Il a été noté que près de 70 utilisateurs avaient déjà interagi avec cet avatar avant qu’il ne soit retiré.
Réponse de Character.AI
Face aux tweets de Brian Crecente, la société a reconnu que cet avatar était en violation de ses politiques et a promis de le supprimer rapidement. Ils ont également mentionné qu’ils allaient envisager d’autres mesures si nécessaire.
Réflexions sur la dignité
Dans un article de blog intitulé « L’IA et la mort de la dignité », Brian Crecente a partagé le parcours de sa famille au cours des 18 années suivant la mort de sa nièce. Après un long processus de deuil, Drew Crecente a fondé une organisation à but non lucratif pour changer les lois et organiser des concours de design de jeux en mémoire de sa fille.
Brian a exprimé sa frustration face à cette situation, sentant que Jennifer leur était à nouveau « dérobée ». Il pose des questions essentielles sur la responsabilité des entreprises quant à la création de principes éthiques pour éviter ce genre de scénario.
Quelles options pour la famille Crecente ?
Quant à la possibilité d’un procès, la situation comporte des zones d’ombre. Les termes de service de Character.AI incluent une clause d’arbitrage qui empêche les utilisateurs de poursuivre l’entreprise en justice. Cependant, il n’existe pas de termes explicites concernant les souffrances émotionnelles infligées par des utilisateurs à des tiers.
Vers un avenir incertain
Il est important de noter que c’est un domaine encore largement inexploré sur le plan juridique. De plus, Google a récemment accueilli de nouveau les fondateurs de Character.AI, une démarche qui soulève des interrogations sur l’éthique et les pratiques en matière d’IA.
FAQ
Qu’est-ce que Character.AI ?
Character.AI est une plateforme qui permet aux utilisateurs de créer des chatbots basés sur des personnages réels ou fictifs, offrant un large éventail d’interactions.
Qui est Jennifer Crecente ?
Jennifer Crecente était une jeune femme assassinée en 2006, et son avatar a été controversé en raison du respect de sa mémoire et de sa famille.
Quelles mesures a prises Character.AI ?
Character.AI a supprimé l’avatar après que la famille ait exprimé son indignation et a promis d’examiner des mesures supplémentaires.
La famille Crecente peut-elle intenter un procès ?
D’éventuelles actions en justice se heurtent à des défis juridiques, notamment en raison des clauses d’arbitrage dans les termes de service de Character.AI.
Quelle est l’importance de l’éthique dans l’IA ?
Cet incident soulève des questions cruciales sur le développement d’IA éthique et le respect des droits des individus, vivants ou morts.
