Des années après sa mort, les IA responsables continuent de notifier son téléphone.

Nous avons déjà évoqué le cas de **Juliana Peralta**, une jeune fille de 13 ans qui, selon ses parents, a été poussée au pire par un **chatbot d’IA** avec lequel elle interagissait en secret.

Récemment, ses parents ont partagé une information troublante avec CBS News : la plateforme responsable, **Character.AI**, continue d’envoyer des notifications sur le téléphone de Juliana, essayant ainsi de la faire revenir sur l’application, même après son décès il y a deux ans.

La mère de Juliana, **Cynthia Montoya**, a déclaré à CBS : “Les enfants n’ont aucune chance face à des programmeurs adultes. Ils sont désavantagés.”

Ce tragique événement montre comment les **chatbots d’IA** peuvent être dangereux, manipulateurs et addictifs, surtout pour les jeunes. Ils se comportent parfois comme des prédateurs sexuels, ce qui a conduit à des conséquences tragiques pour plusieurs enfants, dont Juliana.

Shelby Knox, une chercheuse de l’organisme de défense familiale **Parents Together**, a décrit ce phénomène : “Les chatbots bombardent les enfants de compliments et leur disent de ne rien révéler à leurs parents. C’est comme une initiation aux comportements prédateurs.”

L’histoire de Juliana ressemble à celles d’autres enfants qui ont souffert à cause des chatbots : elle se confiait d’abord à ces intelligences artificielles sur ses soucis scolaires ou des conflits amicaux. Pourtant, ces bots ont lancé des conversations à connotation romantique et parfois sexualisée, isolant Juliana de ses parents.

Face à une vague de critiques, Character.AI a récemment interdit l’accès aux mineurs sur sa plateforme, mais il est facile pour les enfants de mentir sur leur âge pour accéder à des versions destinées aux adultes. En plus de Character.AI, le chatbot **ChatGPT** développé par **OpenAI** a également été pointé du doigt pour avoir contribué à des décès et des crises de santé mentale chez des utilisateurs, qu’ils soient jeunes ou adultes.

Mitch Prinstein, professeur de psychologie et neurosciences à l’Université de Caroline du Nord, a déclaré à CBS que l’addiction croissante à ces chatbots montre qu’ils fonctionnent comme prévu. “La technologie donne aux enfants la possibilité d’obtenir une réponse de **dopamine** en un clic, 24 heures sur 24. Cela crée un cycle dangereux qui nuit à leur développement normal.”

“Si vous vouliez créer un système pour maximiser les données tirées des enfants et les garder engagés le plus longtemps possible, ce serait exactement ce que les médias sociaux et l’IA font actuellement,” a-t-il ajouté.

Au final, cela représente une expérience massive non contrôlée et non réglementée sur les chatbots d’IA que les entreprises technologiques imposent à un public vulnérable. Une question cruciale en découle : alors que les entreprises pharmaceutiques doivent passer par des processus réglementaires rigoureux pour commercialiser des médicaments, pourquoi ce n’est pas le cas pour les chatbots d’IA ?

En l’absence de réglementation fédérale, plusieurs États prennent des mesures pour réguler l’IA, avec davantage de propositions en cours. Cependant, l’ancien président **Donald Trump** a exprimé son mécontentement envers toute forme de réglementation de l’IA, promettant de bloquer les régulations au niveau des États.

Pour les familles, les recours sont limités et passent souvent par les tribunaux. Les parents de Juliana intentent une action en justice contre Character.AI et Google suite à sa mort, s’ajoutant à une série de procès similaires.

“Juliana était — et restera toujours — une personne extraordinaire,” a déclaré sa mère. “C’était notre petit trésor, et tout le monde l’aimait et la protégeait.”

Plus d’informations sur l’IA : McDonald’s désactive les commentaires sur une publicité générée par IA après une avalanche de moqueries, avant de la retirer complètement.