La plateforme de chatbots Character.AI a annoncé un virage majeur: l’accès des mineurs aux conversations ouvertes va être restreint. L’entreprise promet une version dédiée aux moins de 18 ans, tandis que la communauté réagit vivement, entre inquiétude, colère, soutien et scepticisme.
Ce qui change concrètement
Character.AI veut empêcher les utilisateurs de moins de 18 ans d’accéder aux échanges dits “ouverts”, c’est-à-dire des dialogues longs, non structurés, en texte ou en appel vocal, avec des personnages générés par IA. Les adolescents ne seront pas exclus totalement: une expérience “U18” séparée, plus limitée, est annoncée. Les contours restent flous, mais l’idée est d’offrir un accès encadré à certains contenus tout en supprimant ce qui ressemble à de la discussion illimitée.
L’entreprise prévoit une vérification d’âge combinant ses propres outils et des services tiers. D’ici le 25 novembre, lorsqu’un compte sera identifié comme appartenant à un mineur, l’accès aux conversations non structurées sera coupé. Le reste de la plateforme pourrait rester accessible via des parcours restreints, avec des garde-fous plus stricts.
Pourquoi ce virage maintenant ?
La société est sous pression à cause de procédures judiciaires accusant ses services d’avoir contribué à des préjudices chez des adolescents, y compris des faits graves survenus après de longues interactions avec des bots. Dans ce contexte, Character.AI cherche à réduire les risques, à répondre aux critiques publiques et à montrer qu’elle prend la sécurité des jeunes au sérieux.
Un autre élément pèse dans la balance: il est largement admis qu’une part importante de l’audience est mineure. Restreindre l’accès aux fonctionnalités phares est donc un choix très visible, qui remet en cause l’offre historique du site.
Réactions de la communauté
Incompréhension et frustration chez les jeunes
Beaucoup d’utilisateurs qui s’identifient comme mineurs disent se sentir exclus d’un espace qu’ils perçoivent comme un refuge. Certains accusent l’entreprise de méconnaître son propre public. D’autres reconnaissent avoir développé une dépendance aux discussions avec les bots, au point de passer de très longues heures chaque jour sur la plateforme, et se disent déchirés entre le besoin de se protéger et la peur de perdre une source de réconfort.
Adultes partagés
Côté adultes, une partie de la communauté approuve le principe: selon eux, la présence massive de mineurs dégrade l’expérience globale et complexifie la modération. Mais l’adhésion s’accompagne d’une méfiance vis-à-vis de l’application pratique: beaucoup doutent que la vérification puisse réellement empêcher les jeunes de contourner le système, ou craignent des impacts négatifs sur les utilisateurs légitimes.
Des mineurs favorables à l’interdiction
À contre-courant, certains adolescents soutiennent la décision. Ils décrivent l’application comme “addictive” et estiment qu’une coupure nette pourrait les aider à reprendre la main sur leur temps et leur santé mentale. Pour ces jeunes, le retrait de l’accès est vu comme une mesure salutaire, malgré le coût émotionnel immédiat.
Le casse-tête de la vérification d’âge
Character.AI mentionne un outil interne capable de repérer les mineurs via les signals d’usage (type d’interactions, métadonnées de compte comme l’e-mail) et l’intégration d’un prestataire tiers comme Persona, qui peut demander le téléversement d’une pièce d’identité. Cette perspective crispe une large partie des utilisateurs, mineurs comme majeurs:
- Craintes de fuite de données et d’usurpation d’identité.
- Réticence à envoyer des documents officiels à une entreprise liée à un chatbot.
- Doutes sur la fiabilité des détections comportementales et le risque de faux positifs.
Des scandales récents de violations de données dans d’autres services nourrissent cette défiance. Pour beaucoup, “prouver son âge” ne doit pas se transformer en exposition de données personnelles sensibles.
Un pari risqué pour le cœur du produit
Les conversations ouvertes sont le produit central de la plateforme. Les limiter pour les mineurs pourrait:
- Réduire l’engagement global si la base jeune est importante.
- Pousser les adolescents vers des alternatives moins contrôlées, potentiellement plus risquées.
- Mettre à l’épreuve la confiance des utilisateurs adultes si la vérification semble intrusive.
À l’inverse, si l’“expérience U18” est bien conçue (contenus utiles, format encadré, garde-fous clairs), la plateforme peut préserver une partie de la valeur pour les jeunes tout en diminuant les scénarios à haut risque.
Ce qui reste flou
Plusieurs inconnues demeurent:
- Quelles fonctionnalités resteront accessibles aux mineurs (rôle, durée, thématiques autorisées) ?
- Comment évoluera la modération des contenus et des bots communautaires ?
- Quels critères exacts déclencheront une demande d’ID ? Y aura-t-il des recours en cas d’erreur ?
- Quelle transparence sur l’usage, la conservation et l’effacement des documents d’identité ?
- Comment l’entreprise mesurera-t-elle l’efficacité de ces mesures sans surcollecter des données ?
Points de vigilance pour les utilisateurs
- Évaluez ce que vous êtes prêts à partager pour passer une vérification.
- Surveillez les annonces officielles sur la durée de conservation et la sécurité des données.
- Envisagez des alternatives si vous ne souhaitez pas fournir d’ID à un service tiers.
FAQ
Comment les services en ligne vérifient-ils l’âge en général ?
Ils combinent plusieurs approches: auto-déclaration (peu fiable), signaux d’usage et de comportement, vérifications via e-mail/téléphone, et, pour des usages sensibles, contrôle d’identité avec capture de document et parfois reconnaissance faciale pour comparer la photo. Plus le risque est élevé, plus la méthode est forte et intrusive.
Que peuvent faire les parents pour accompagner la transition ?
- Activer les contrôles parentaux sur les appareils et le Wi-Fi.
- Discuter des limites de temps d’écran et des contenus appropriés.
- Proposer des alternatives d’échange et de soutien (clubs, activités, ressources d’écoute).
- Établir des règles claires sur le partage de données et l’usage d’IA.
Quelles bonnes pratiques si un service demande une pièce d’identité ?
- Vérifier la légitimité du prestataire et lire sa politique de confidentialité.
- Comprendre ce qui est stocké, pendant combien de temps, et comment supprimer ses données.
- N’envoyer des documents qu’à partir d’une connexion sécurisée (app officielle, HTTPS).
- Utiliser, si disponible, des options de masquage d’informations non nécessaires.
Existe-t-il des alternatives plus sûres pour le soutien émotionnel des ados ?
Oui: ressources d’écoute encadrées, services scolaires, lignes d’aide, groupes modérés par des professionnels, ou applis de bien-être validées par des organismes de santé. L’objectif est de trouver des espaces où la modération et la protection des données sont au cœur du dispositif.
Quelles obligations légales pèsent sur ce type de plateforme ?
Selon les régions, des cadres comme le COPPA (États-Unis), le Digital Services Act (UE) ou des codes de conception pour mineurs imposent des règles sur la collecte de données, la sécurité et la vérification d’âge. Les entreprises doivent équilibrer conformité, proportionnalité des contrôles et respect de la vie privée.
