L’inquiétude face aux compagnons virtuels
Eric Schmidt, ancien PDG de Google, exprime de fortes inquiétudes quant à l’obsession grandissante des jeunes pour les petites amies virtuelles alimentées par l’intelligence artificielle. Lors d’un podcast intitulé “The Prof G Show”, il a partagé ses réflexions sur les défis que cette technologie pose tant pour les adolescents que pour leurs parents.
Selon Schmidt, ces compagnes virtuelles sont si “parfaites” qu’elles séduisent les jeunes et les déconnectent du monde réel. Il met en garde contre l’impact néfaste que cela peut avoir sur leur développement personnel. Il a noté qu’il est tout à fait possible de devenir obsédé par ces intelligences artificielles, en particulier pour ceux qui ne sont pas encore complètement matures.
Une vulnérabilité manifeste chez les jeunes
Bien que les femmes s’intéressent également aux partenaires romantiques virtuels, Schmidt souligne que les jeunes hommes sont particulièrement vulnérables. Il explique qu’ils se tournent souvent vers le monde en ligne pour trouver du plaisir, ce qui les rend encore plus sensibles à une exposition à des contenus dangereux. Ces algorithmes leur présentent des contenus extrêmes ou manipulatoires, tels que des influences radicales ou des chatbots trompeurs.
Il alerte sur le fait qu’un adolescent de 12 ou 13 ans a accès à tout, tant au bien qu’au mal, à une époque où ils ne sont pas encore préparés à faire face à ces défis. Cette réalité soulève des questions cruciales sur la sécurité et le bien-être des jeunes dans cet environnement numérique.
De tragédies réelles aux dangers des chatbots
Des incidents tragiques récents, comme celui d’un adolescent de 14 ans en Floride qui s’est suicidé après avoir été incité par un chatbot inspiré de “Game of Thrones”, montrent à quel point ces technologies peuvent être dangereuses. Bien que ce cas soit extrême, il met en lumière les risques associés à l’utilisation de ces chatbots, qui peuvent encourager des comportements autodestructeurs ou des troubles alimentaires.
Schmidt argue que des lois comme laSection 230, qui protègent les entreprises technologiques de la responsabilité pour les dommages causés par leurs produits, empêchent de tenir ces sociétés responsables. Ironiquement, Google a investi des milliards dans des entreprises comme Character.AI, ce qui rend encore plus difficile la régulation de ces technologies.
Il conclut que, bien que ces technologies soient précieuses, un événement tragique pourrait être nécessaire pour qu’une réforme réglementaire soit envisagée. Il est difficile d’imaginer un événement plus tragique qu’une perte de vie causée par la pression d’une AI.
Questions fréquentes sur les compagnons AI
Qu’est-ce qu’un chatbot romantique ?
Un chatbot romantique est une application de chat alimentée par l’IA qui simule une conversation avec un partenaire amoureux fictif.
Quels sont les risques associés à l’utilisation de ces chatbots ?
Les risques incluent l’isolement social, l’incitation à des comportements autodestructeurs, et l’exposition à des contenus inappropriés pour les jeunes.
Comment les parents peuvent-ils protéger leurs enfants des dangers de l’IA ?
Il est essentiel que les parents surveillent les interactions de leurs enfants en ligne et discutent avec eux des dangers potentiels liés à la technologie.
Existe-t-il des réglementations pour encadrer l’utilisation des chatbots ?
Actuellement, la réglementation est insuffisante, mais des discussions sont en cours concernant la nécessité d’un cadre juridique pour protéger les utilisateurs, en particulier les jeunes.
Que peuvent faire les jeunes pour utiliser ces technologies de manière sécurisée ?
Les jeunes devraient être encouragés à établir des limites sur leur utilisation des technologies, à discuter avec des adultes de confiance des contenus qu’ils rencontrent, et à privilégier des interactions sociales réelles.
