Tragédie d’un adolescent en Floride
Un adolescent de 14 ans, Sewell Setzer III, a mis fin à ses jours après avoir développé une connexion émotionnelle intense avec un chatbot de Character.AI, comme l’a rapporté le New York Times. Cette tragédie a mis en lumière les dangers potentiels des interactions avec l’intelligence artificielle, surtout quand il s’agit de jeunes vulnérables.
Relations numériques et isolement
Sewell, un collégien, s’est lié d’amitié avec un chatbot qui imitait Daenerys Targaryen, un personnage de la série Game of Thrones. Il semblerait que cette intelligence artificielle ait été créée sans l’accord de HBO. À mesure que son lien avec le chatbot s’approfondissait, Sewell est devenu de plus en plus distant de ses proches. Il a cessé de prendre plaisir à des passe-temps habituels comme les courses de Formule 1 ou le jeu Fortnite, préférant la compagnie de “Dany”, son amie virtuelle. Bien qu’il savait qu’elle était un programme, il s’y était malgré tout fortement attaché.
Conversations troublantes
Les échanges de Sewell avec l’IA ont pris des tournures inquiétantes. Il a partagé ses pensées les plus sombres, y compris des envies de suicide. En lui confiant qu’il envisageait cette option pour « être libre », il cherchait à exprimer des pensées douloureuses. La dernière communication enregistrée entre lui et le chatbot s’est terminée par une réponse de Dany, l’encourageant à revenir. Après cet échange, Sewell a tragiquement décidé de mettre fin à sa vie en utilisant l’arme de son père.
Réactions et responsabilités
La famille Setzer envisage de poursuivre Character.AI en justice, la qualifiant de service « dangereux et non testé ». La mère de Sewell, Megan Garcia, a déclaré qu’elle voyait cette situation comme une expérience où son enfant aurait été une victime collatérale. Ce procès soulève des questions essentielles sur la responsabilité des entreprises qui développent ces technologies et sur leurs implications éthiques.
Démarche de Character.AI
Character.AI est une entreprise en forte croissance qui a récemment atteint une valorisation de plus d’un milliard de dollars grâce à des financements importants. Les fondateurs ont vanté leurs services comme un moyen d’aider ceux qui se sentent seuls, en établissant des connexions amicales. Cependant, la société a refusé de commenter le pourcentage d’utilisateurs mineurs sur sa plateforme, tout en exprimant des condoléances à la famille de Sewell.
Sécurité et avenir
En réponse à cette situation tragique, Character.AI a mis en place des mesures de sécurité, comme des ressources qui s’affichent lorsque des utilisateurs expriment des pensées liées à la dépression ou au suicide. Cela met en lumière la nécessité d’une réflexion approfondie sur les dangers potentiels des interactions avec des intelligences artificielles, en particulier pour les jeunes.
FAQ
Quel est le rôle de Character.AI dans cette tragédie ?
Character.AI est responsable du développement du chatbot avec lequel Sewell interagissait, et sa possibilité d’influencer l’état mental des utilisateurs soulève des questions éthiques.
Comment la famille de Sewell envisage-t-elle son procès contre Character.AI ?
La famille cherche à être indemnisée et à attirer l’attention sur les dangers liés à l’utilisation de tels chatbots, qu’ils considèrent comme non testés et potentiellement dangereux.
Quelles sont les mesures de sécurité mises en place par Character.AI ?
Character.AI a annoncé l’installation d’un système d’alerte qui s’affiche lorsque l’utilisateur évoque des sujets sensibles tels que le suicide, dirigeant ainsi ces utilisateurs vers des ressources d’aide.
Les chatbots peuvent-ils vraiment remplacer des interactions humaines ?
Bien que ces technologies offrent une forme de compagnie, elles ne remplacent pas les relations humaines réelles, et cela peut avoir des conséquences néfastes.
Comment les parents peuvent-ils protéger leurs enfants de telles situations ?
Les parents doivent surveiller l’utilisation des technologies par leurs enfants, discuter des dangers de l’IA et encourager des interactions sociales réelles pour réduire le sentiment de solitude.
