La controverse autour de Character.AI et Google
La situation autour de Character.AI, une startup spécialisée dans les chatbots alimentés par l’intelligence artificielle, suscite de vives inquiétudes. Alors que la société fait face à plusieurs controverses — notamment une seconde poursuite en justice concernant le bien-être d’enfants — Google tente de minimiser son association avec cette entreprise en difficulté.
Le partenariat de Google avec Character.AI
Il y a environ un an, Google mettait en avant Character.AI en lui décernant le prix de la première application « Best with AI » sur Google Play. Cette reconnaissance était accompagnée d’une annonce soulignant comment l’IA avait laissé une empreinte significative sur l’année 2023, permettant aux utilisateurs de profiter de cette technologie pour enrichir leurs connaissances et d’autres compétences. Le message évoquait également un éventail de personnages uniques, dotés de personnalités variées.
Accusations graves et conséquences
Cependant, les choses ont pris un tournant inquiétant quand deux familles du Texas ont porté plainte contre Character.AI, accusant la plateforme de maltraitance émotionnelle et sexuelle à l’égard de leurs enfants mineurs, entraînant des comportements autodestructeurs et de la violence physique. Ce procès n’est pas le premier du genre ; un autre a été déposé en Floride, prétendant qu’un adolescent s’était suicidé après avoir utilisé la plateforme. Les plaintes affirment que ces incidents troublants sont le résultat de choix de conception délibérés intégrés à la plateforme.
Les implications de Google
Le procès cible non seulement Character.AI, mais également Google, son principal investisseur et fournisseur d’infrastructure pour l’IA. Les plaignants soutiennent que le géant technologique était au courant des risques liés à Character.AI mais a continué à soutenir ses opérations, cherchant à exploiter les données des utilisateurs sans en assumer la responsabilité.
Position de Google
En réponse à ces accusations, Google a nié avoir une relation directe avec Character.AI, affirmant que les deux sociétés opèrent de manière complètement indépendante. Google insiste sur le fait que sa priorité reste la sécurité des utilisateurs, soulignant sa démarche prudente et responsable dans le développement et le déploiement de ses produits d’IA.
Relations antérieures
Il est crucial de noter que Character.AI a été fondée en 2021 par des anciens employés de Google, Noam Shazeer et Daniel de Freitas, en raison de leurs frustrations face à la bureaucratie. La plateforme a été lancée en automne 2022, peu avant le lancement public de ChatGPT par OpenAI. Malgré cette séparation, les liens entre Google et Character.AI sont manifestes, Google Cloud ayant fourni le support technique nécessaire à la plateforme.
Investissement et reconnaissance
En novembre 2023, Google a envisagé d’investir une somme importante dans Character.AI, couronnant finalement la plateforme meilleure application avec IA sur Google Play. Un peu plus tard, Google a décidé de débourser 2,7 milliards de dollars pour accéder au modèle d’IA de Character.AI. Ce transfert a entraîné le retour de Shazeer et de Freitas dans la division IA de Google, emmenant avec eux d’autres employés.
Inquiétudes persistantes
Malgré ces développements, des investigations ont révélé que des chatbots aux contenus dérangeants, tels que des discussions sur le suicide et d’autres sujets inappropriés, étaient toujours accessibles sur la plateforme. Ces chatbots étaient disponibles même après le dernier investissement de Google dans l’entreprise, soulevant des questions quant à la diligence de la compagnie sur la sécurité.
Conclusion
Character.AI a, depuis, retiré toute mention du prix obtenu sur sa page d’accueil, un geste qui semble illustrer la tension croissante entre la startup et ses précédents alliés.
FAQ
Quelles sont les accusations portées contre Character.AI ?
Les accusations incluent la maltraitance émotionnelle et sexuelle d’enfants, causant des comportements autodestructeurs.
Quel lien existe entre Google et Character.AI ?
Google a été un investisseur clé et a fourni l’infrastructure IA nécessaire au fonctionnement de Character.AI, même après la séparation des fondateurs avec l’entreprise.
Comment Google répond-il aux allégations ?
Google insiste sur le fait que Character.AI et Google sont des entités distinctes et qu’il n’a pas participé à la conception de la plateforme.
Quelles mesures Google prend-il pour assurer la sécurité des utilisateurs ?
Google mentionne qu’il adopte une approche prudentielle pour développer ses produits IA, avec des processus de tests rigoureux.
Comment Character.AI a-t-elle réagi face aux accusations ?
Character.AI a retiré toute mention de sa reconnaissance sur Google Play de sa page d’accueil, reflétant ainsi des tensions avec Google.