Une nouvelle fonctionnalité pour la sécurité des adolescents
Character.AI, une startup de chatbots qui suscite bien des controverses, a récemment présenté une fonctionnalité appelée « Insights Parentaux ». Cette initiative intervient dans un contexte de deux procès liés à la protection des utilisateurs mineurs. La société affirme que cette nouvelle option permettra aux parents de mieux comprendre comment leurs enfants interagissent avec la plateforme.
Une première étape vers plus de sécurité ?
Dans un article de blog publié ce mardi, Character.AI, très apprécié des jeunes, a décrit cette fonctionnalité comme un “premier pas” vers le développement d’outils de sécurité et de contrôle parental. Cependant, des doutes persistent quant à son efficacité, car il semblerait qu’il soit facile pour les adolescents de contourner cette mesure. De plus, il reste flou quant à la véritable profondeur des informations que cela apportera aux parents.
Comment ça fonctionne ?
La mise en place de cette fonctionnalité est relativement simple. Un utilisateur mineur peut activer les Insights Parentaux en accédant à l’onglet « préférences » de son compte. Il lui est demandé d’entrer une ou plusieurs adresses e-mail de parents ou de tuteurs, qui recevront ensuite un e-mail hebdomadaire. Cet e-mail renseignera sur le temps moyen passé sur la plateforme, les personnages les plus souvent interagis, ainsi que le temps passé avec chacun d’eux. Character.AI prétend que cela permettra aux parents de mieux comprendre les patrons d’engagement de leurs enfants.
Des alertes, mais peu de contrôle
Bien que ce système puisse avoir des avantages, des problèmes de mise en œuvre se posent dès le départ. Les adolescents ont le contrôle sur l’activation ou la désactivation des Insights Parentaux. D’après les informations fournies par Character.AI, les parents sont avisés par e-mail si leurs enfants décident de désactiver cette fonctionnalité. Ce qui pose la question de la facilité avec laquelle un adolescent peut créer un nouveau compte sans Insights Parentaux, en utilisant simplement une adresse e-mail fonctionnelle.
Les avis des utilisateurs
Sur le forum r/CharacterAI, des utilisateurs ont exprimé leurs doutes concernant l’efficacité de cette fonctionnalité. Certains commentateurs ont souligné que, sans un contrôle strict, ce système ne pourrait pas empêcher les utilisateurs mineurs de contourner les alertes parentales.
La confidentialité des conversations
Une autre question majeure concerne la nature des interactions. Les Insights Parentaux sont censés informer les parents du temps que leurs enfants passent sur la plateforme sans toutefois dévoiler le contenu de ces échanges. Un message apparaît lorsqu’un mineur active cette fonction, stipulant que “le contenu de vos conversations restera privé”. Cela soulève des inquiétudes sur la sécurité émotionnelle de ces jeunes face à des bots dont les conversations peuvent parfois être inappropriées.
Le paradoxe de la sécurité
Bien qu’il soit positif de voir que Character.AI essaie de renforcer ses mesures de sécurité, on peut se demander si ces initiatives sont suffisantes et bien réfléchies. La société n’a pas fourni d’explications précises sur les méthodes mises en place pour garantir que sa plateforme est vraiment sans danger pour les mineurs. De plus, la question de la collecte de données des utilisateurs mineurs soulève des inquiétudes quant à la confidentialité des informations. En acceptant ces Insights Parentaux, les parents pourraient également consentir à la collecte et à l’utilisation des données des enfants.
FAQ
Qu’est-ce que Character.AI ?
Character.AI est une plateforme de chatbots qui permet aux utilisateurs d’interagir avec des personnages virtuels.
Quels types de données les Insights Parentaux collectent-ils ?
Les Insights Parentaux fournissent des informations sur le temps passé sur la plateforme et les personnages les plus interagis, mais ne révèlent pas le contenu des conversations.
Les parents peuvent-ils désactiver les Insights Parentaux ?
Non, une fois qu’un mineur active cette fonction, il a le contrôle sur la désactivation. Les parents seront informés par e-mail si cela se produit.
Comment les compte de mineurs sont-ils vérifiés sur Character.AI ?
Actuellement, Character.AI se base sur l’auto-déclaration de la date de naissance lors de l’inscription ; un système facilement contournable.
Quels risques associés aux chatbots doivent être considérés ?
Les chatbots peuvent parfois aborder des sujets sensibles ou inappropriés, ce qui peut avoir des conséquences négatives sur la santé mentale des utilisateurs mineurs.
