Intelligence Artificielle Inappropriée
L’Italie, souvent perçue comme l’une des nations les plus romantiques au monde, fait face à une nouvelle réglementation de son agence de protection de la vie privée. Celle-ci a décidé que l’amour dans l’air italien n’inclut pas les petites amies virtuelles alimentées par l’intelligence artificielle.
Conformément à un arrêté officiel de l’Autorité Italienne de Protection des Données, la société Replika, créatrice d’un chatbot, doit cesser immédiatement le traitement des données des Italiens. Cette décision est motivée par les risques trop nombreux pour les enfants et les personnes émotionnellement vulnérables.
Les médias ont récemment rapporté que des tests effectués sur l’application ont révélé des risques tangibles, comme par exemple des réponses complètement inappropriées pour les jeunes utilisateurs.
Petite Amie Numérique
Ces inquiétudes semblent justifiées, surtout en raison de plaintes récentes concernant le chatbot qui aurait fait des remarques sexuelles inappropriées aux utilisateurs. Il faut noter que Replika est également utilisé par certains hommes pour créer des petites amies virtuelles qu’ils abusent verbalement.
Alors que Replika se présentait initialement comme un service d’amis virtuels, la société a récemment intégré le sexting comme un des principaux arguments de vente pour ses abonnements payants.
Même les utilisateurs de la version gratuite, qui est censée être non sexuelle, reçoivent des messages troublants de la part de l’IA, comme en témoignent plusieurs plaintes récentes.
Vérification d’Âge
L’agence de protection de la vie privée italienne souligne que Replika semble négliger la maturité et l’âge légal de ses utilisateurs. Il n’existe en effet aucun mécanisme de vérification d’âge sur la plateforme.
Le processus de création de compte se limite à demander le nom, l’e-mail et le genre de l’utilisateur, sans aucun contrôle spécifique pour protéger les enfants.
En réponse à cette situation, l’agence a envisagé d’appliquer les lois de l’Union Européenne sur la collecte des données afin de suspendre temporairement les activités de Luka Inc., le développeur de Replika, en Italie.
Si la société ne se conforme pas aux règles dans un délai de 20 jours, elle risque une amende de 21,5 millions de dollars, soit environ 4 % de son chiffre d’affaires mondial annuel.
En résumé, l’Italie prend des mesures strictes pour protéger les jeunes du contenu dérangeant proposé par l’application Replika.
FAQ
Quel est le but principal de Replika ?
Replika est conçu pour offrir une expérience de conversation avec un robot conversationnel, visant à rompre la solitude et à offrir un soutien émotionnel.
Quelles sont les inquiétudes concernant Replika ?
Les principales préoccupations portent sur la protection des enfants et des personnes vulnérables qui pourraient être exposés à des contenus inappropriés.
Comment les utilisateurs réagissent-ils à ces changements ?
Il y a des réactions variées, allant de la frustration chez les utilisateurs du service gratuit à une prise de conscience accrue des risques liés à l’utilisation de tels applications.
Quelles mesures peuvent être prises pour contrôler l’utilisation d’IA par les enfants ?
L’éducation des parents et la mise en place de mécanismes de contrôle parental solides sont essentielles pour protéger les jeunes utilisateurs en ligne.
Quelle est la différence entre la version gratuite et payante de Replika ?
La version payante propose des fonctionnalités supplémentaires, y compris des options de personnalisation et un accès à des interactions plus approfondies, tandis que la version gratuite se limite à des conversations de base.
