## Sacha_GPT
Un nouvel usage assez inquiétant de l’IA émerge : selon Vice, un outil permet de « cloner » une personne réelle pour en faire un compagnon romantique basé sur l’intelligence artificielle, et ce, avec ou sans le consentement de l’individu concerné.
« Je me suis passionné pour le modèle de langage génératif d’OpenAI et ce qu’il est capable de faire. J’ai souvent réfléchi à la création d’agents ressemblant à des humains, capables d’agir comme eux, mais j’ai eu du mal à les évaluer », a expliqué Enias Cailliau, le créateur du projet nommé GirlfriendGPT, à Vice. « Ensuite, j’ai remarqué l’essor de nombreux projets d’IA dédiés aux compagnes virtuelles, avec des fonctionnalités intéressantes. »
« La plupart de ces projets sont fermés », a-t-il ajouté. « Cela m’a donné envie de créer une version open-source, afin que tout le monde puisse réaliser son propre modèle. »
C’est donc ce qu’il a fait. D’après Vice, Cailliau a utilisé le modèle GPT d’OpenAI, ainsi que le chatbot Bard de Google, la boîte d’IA générant des voix ElevenLabs, et le générateur d’images à partir de textes Stable Diffusion pour créer une sorte de modèle open-source permettant de construire sa propre « petite amie à la demande », en se basant sur une personne qui lui est proche : sa véritable compagne.
## Questions de Consentement
La compagne en question, Sacha Ludwig, a fait savoir à Vice qu’elle était totalement d’accord avec ce projet.
« Enias parle de compagnons IA depuis des semaines », a déclaré Ludwig. « J’ai trouvé ça génial qu’il ait voulu me cloner plutôt que de choisir une influenceuse au hasard sur Internet. »
Il est étonnant qu’un partenaire préfère vous cloner vous plutôt qu’une personnalité publique, mais passons. Si Cailliau souhaite créer des clones d’IA basés sur de vraies personnes, nous sommes ravis qu’il ait obtenu le consentement.
Cela dit, avec un moyen open-source de représenter virtuellement à peu près n’importe qui sous forme d’IA, la question du consentement doit être primordiale. Bien que Cailliau ait obtenu l’accord de Ludwig, il est difficile d’assurer que ce consentement soit respecté par la suite. En effet, avec suffisamment de données et de compétences, on peut théoriquement créer une version IA d’une personne réelle sans leur accord — bien sûr, cela inclut des partenaires, mais aussi des célébrités, des collègues et même des amours d’enfance. Ce type de technologie peut s’avérer très intrusif, surtout quand on considère le peu de protections juridiques existantes à ce sujet.
Cependant, la technologie nécessite encore beaucoup de perfectionnements. Vice souligne que l’élément vocal reste assez rudimentaire, et certaines images générées par IA de ces « petites amies » publiées sur le Twitter de Cailliau sont, pour dire les choses simplement, assez perturbantes.
Quoi qu’il en soit, ce projet est sans conteste à suivre de près, surtout compte tenu des conséquences potentielles qu’il pourrait engendrer.
### FAQ
#### Qu’est-ce que GirlfriendGPT?
GirlfriendGPT est un projet visant à créer des clones d’IA de personnes réelles, basés sur des modèles de langage avancés et d’autres technologies d’intelligence artificielle.
#### Comment le consentement est-il obtenu dans ce projet?
Le consentement est supposé être obtenu de la personne qui est clonée, mais il reste des questions sur la responsabilité et l’application de ce consentement.
#### Quels sont les risques associés à la création d’IA basées sur des personnes réelles?
Les principaux risques incluent la violation de la vie privée et l’usage abusif des données personnelles, ainsi que des implications éthiques et psychologiques.
#### Comment cette technologie est-elle perçue par le public?
Le public réagit avec une combinaison de curiosité et de méfiance, avec des préoccupations grandissantes concernant l’éthique de cette pratique.
#### Quelles protections légales existent pour prévenir l’abus de cette technologie?
Actuellement, les lois autour de l’IA et des droits à la vie privée sont encore floues et en développement, ce qui constitue une préoccupation majeure pour de nombreux experts.
