Une Application Étrange : Vera AI
Une nouvelle application intrigante, baptisée Vera AI, prétend permettre à ses utilisateurs de créer des copies de leurs amis et membres de la famille. Cette utilisation audacieuse de la technologie d’IA suscite des interrogations, car elle semble viser à remplacer les connexions humaines authentiques.
Promesse de Revoir des Êtres Chers
Les matériaux marketing de l’application vont jusqu’à suggérer qu’elle peut être utilisée pour “recréer quelqu’un qui vous manque… et continuer à discuter sans limites”. Cela laisse entendre qu’elle serait destinée à renouer avec des êtres chers, y compris ceux qui ont disparu.
Au sein de la communauté en ligne, cette perspective n’est pas accueillie avec enthousiasme. Des utilisateurs expriment leur désaccord, comme Robin Marwick, un éditeur médical freelance, qui a répondu de manière franche : “Certainement pas !”. Un autre a fait un parallèle avec un épisode de la série “Black Mirror”, renforçant l’idée que cette notion de communication avec des amis disparus est préoccupante.
Des Revendications Douteuses
La description de l’application sur le Google Play Store ressemble à un ensemble confus de revendications redondantes. Elle se vante d’être le “premier ami IA avec une intelligence émotionnelle” et d’un chatbot qui “agit comme une vraie personne”. Ces affirmations sont rapidement contestables, étant donné l’existence d’autres applications similaires.
Suite à une demande de commentaire de la part de l’équipe de Futurism, la présentation de l’application a été modifiée, ce qui soulève des questions sur l’éventuelle intention de dissimuler ses véritables objectifs. Une ancienne version mentionnait clairement la possibilité de “recréer n’importe qui pour avoir des conversations réelles et intimes”.
La Notion de Résurrection Numérique
L’idée d’utiliser l’IA pour établir un contact avec le monde des défunts n’est pas nouvelle. En 2022, une femme récemment décédée avait fait ses débuts inopinés à son propre enterrement grâce à une expérience vidéographique holographique. De plus, des services tels que Seance AI promettent eux aussi d’invoquer les défunts par le biais de la technologie.
En dehors de ces interactions, d’autres chatbots ont permis à de nombreux utilisateurs de tisser des liens avec des “petits amis AI”, favorisant des relations qui peuvent aller de l’amitié à des romances intimes, comme sur l’application Replika. Toutefois, Vera AI représente une tentative moins raffinée et plus tapageuse de capitaliser sur cette tendance.
Questions Étranges et Manque de Clarté
Dans sa description mise à jour, l’application reste nébuleuse sur la manière dont elle serait capable de reproduire vos êtres chers. Par exemple, sous la section “Étape 2 : créez votre ami AI”, elle pose des questions déroutantes telles que : “Quelles sont ses passions ? Ses peurs ? Quelle est sa personnalité ?”. Cela laisse penser qu’un mauvais goût prédomine dans l’élaboration de ces dialogues.
Les Inquiétudes sur les Données Personnelles
Une adresse de contact présente sur la page Google Play de l’application appartient à la société Bending Spoons, un éditeur de logiciels basé à Milan, spécialisé dans des applications d’édition photo relevées par l’intelligence artificielle. D’ailleurs, l’Autorité de protection des données en Italie avait récemment demandé à Replika d’arrêter le traitement des données d’utilisateurs italiens, invoquant des risques trop importants pour les enfants et les personnes vulnérables émotionnellement.
On ne sait pas exactement quelles données Vera AI utilise pour former ses chatbots. Une version antérieure de la page de l’application notait un accès aux “contenus de votre stockage USB”, y compris photos, médias et fichiers. Le nouvel avis sur la sécurité des données reste flou, mentionnant le partage potentiel d’informations “personnelles” et d'”informations sur l’application”.
Conclusion
Bien que la société n’ait pas encore répondu aux demandes d’éclaircissements, l’avenir de Vera AI soulève encore de nombreuses questions quant à ses intentions et à la manière dont elle traite les données de ses utilisateurs.
FAQ
Qu’est-ce que Vera AI exactement ?
Vera AI est une application qui permet de créer des copies numériques de personnes, incluant des amis et des membres de la famille, pour entretenir des conversations.
Quel est l’impact de l’utilisation de Vera AI sur les relations humaines ?
L’application soulève des préoccupations quant à l’impact négatif sur les connexions humaines authentiques, potentiellement remplaçant des interactions réelles.
Quelles données personnelles sont collectées par l’application ?
Il n’est pas clair quelles données personnelles sont collectées, mais des versions antérieures ont mentionné l’accès aux contenus de stockage USB des utilisateurs.
Pourquoi ce type d’application soulève-t-il des préoccupations éthiques ?
La possibilité de “recréer” des personnes disparues peut être perçue comme exploitante et peut affecter la manière dont les gens traitent le deuil et la mémoire de leurs proches.
Qui est derrière Vera AI ?
Vera AI est développé par Bending Spoons, une entreprise basée à Milan, spécialisée dans les applications d’édition et d’outils basés sur l’intelligence artificielle.