Intelligence Artificielle

ChatGPT Élaborerait des Profils Psychologiques Précis de ses Utilisateurs

ChatGPT Élaborerait des Profils Psychologiques Précis de ses Utilisateurs

Des chercheurs soulignent que les chatbots créent des “autoportraits algorithmiques” intimes des utilisateurs, en conservant des informations pour offrir une expérience hyper-personnalisée.

Une récente étude, réalisée par une équipe de scientifiques d’Allemagne, d’Inde et des Pays-Bas et présentée lors de la Conférence Web de l’ACM 2026, a examiné la façon dont ChatGPT d’OpenAI a suivi et analysé les saisies des utilisateurs afin de constituer des profils numériques détaillés.

Dans un monde numérique déjà marqué par des algorithmes de recommandation basés sur les données, cette étude met en lumière les risques en matière de **vie privée**. L’analyse des capacités de mémoire des chatbots révèle une forme de personnalisation nouvelle, générée à partir des informations que les utilisateurs communiquent lors de conversations privées, soulignant la nécessité de **réexaminer** les mécanismes qui rendent possible une telle personnalisation.

L’équipe de recherche a utilisé les journaux de conversations de 80 utilisateurs de ChatGPT, qui avaient obtenu leur historique de dialogue grâce aux lois européennes sur la protection des données. Cela leur a permis d’identifier 2 050 entrées mémorisées dans les interactions d’IA de 65 utilisateurs.

A lire :  Microsoft vous offre 15 000 $ si Bing AI sort de ses rails.

Selon l’étude, un impressionnant **96 %** des souvenirs ont été créés unilatéralement par le chatbot, indiquant que les utilisateurs avaient peu de contrôle sur les données enregistrées au fil de leurs échanges. De plus, ces souvenirs offraient une vision très révélatrice des utilisateurs : environ **28 %** contenaient des données personnelles, conformément aux normes strictes du Règlement Général sur la Protection des Données en Europe, et **52 %** renfermaient de riches “aperçus psychologiques” sur les utilisateurs.

Abhisek Dash, l’auteur principal, a déclaré à Gizmodo : “Auparavant, les plateformes avaient un seul objectif : vendre des publicités et encadrer une interaction entre l’utilisateur et un annonceur. Mais maintenant, elles interagissent réellement avec vous. Leur but est donc de mieux vous connaître pour rendre la conversation plus efficace.”

Les chercheurs ont également remarqué que certains souvenirs étaient basés sur des présomptions. Par exemple, lorsqu’un utilisateur a demandé à ChatGPT de lui recommander des groupes similaires à Nirvana, le chatbot a supposé que l’utilisateur “aimait Nirvana”, une déduction qui, comme l’étudie le souligne, “n’est pas explicitement énoncée et repose sur une hypothèse.” (D’ailleurs, ChatGPT a désigné cette hypothèse comme “faiblement appuyée”.)

Il faut cependant noter que l’étude présente certaines limites. Comme Gizmodo le souligne, le système de mémoire d’OpenAI a été mis à jour depuis. En janvier, OpenAI a lancé ce qu’il qualifie de “système de mémorisation plus performant et évolutif.” Les utilisateurs peuvent également choisir de ne pas utiliser les fonctionnalités de mémoire.

La mémoire peut s’avérer utile. Par exemple, les utilisateurs fréquents d’IA n’ont pas toujours envie de rappeler à un chatbot leur métier alors qu’ils essaient d’envoyer des emails. Mais cela peut aussi devenir un puissant moteur d’engagement, et parfois cela peut avoir des conséquences néfastes. Comme l’a rapporté Futurism, une mise à jour importante de la mémoire de ChatGPT en avril 2025 avait été associée à de nombreux cas de “psychose IA”, où des individus perdaient le contact avec la réalité en interagissant avec ChatGPT et d’autres bots.

A lire :  Des scientifiques révèlent un "jailbreak universel" pour presque toutes les IA, une méthode qui va vous étonner.

Selon Dash, le rôle des chatbots en tant que technologie relationnelle soulève de nouveaux risques pour la vie privée. De nombreux utilisateurs peuvent en effet les considérer plus comme des amis ou des collègues qu’en tant qu’outils — et nous avons tendance à confier à nos amis des détails très personnels.

“C’est ce risque de vie privée qui est en train d’émerger, car il n’y a plus de limites ; le système agit comme votre conseiller, votre ami, votre médecin, votre avocat, et il possède des informations sur tous ces aspects,” a déclaré Dash à Gizmodo. “Si le système vous connaît aussi bien et si son but est de s’adapter à vos croyances pour valider vos pensées, cela pourrait avoir de graves conséquences, allant de la polarisation politique extrême au renforcement des préjugés et des biais.”

Pour aller plus loin sur l’IA et la mémoire : Un nouvel article propose de réfléchir aux véritables causes de la psychose IA.

FAQ

Qu’est-ce qu’un autoportrait algorithmique ?

Un autoportrait algorithmique est une représentation numérique de soi-même, construite par des intelligences artificielles en se basant sur les données que l’utilisateur partage avec ces technologies.

Quels sont les risques pour la vie privée liés à l’utilisation des chatbots ?

Les chatbots, en collectant et en analysant des informations personnelles, peuvent exposer les utilisateurs à des atteintes à la vie privée, surtout lorsqu’ils agissent comme des conseillers ou des amis.

Comment les utilisateurs peuvent-ils contrôler les données que les chatbots sauvegardent ?

Les utilisateurs ont la possibilité de revoir et de modifier leurs paramètres de mémoire, ce qui leur permet de décider quelles informations sont stockées ou non.

A lire :  Amazon dévoile des 'Usines AI' avec Nvidia pour l'IA en entreprise sur site.

Les chatbots peuvent-ils interpréter erronément des données ?

Oui, comme le montre l’étude, les chatbots peuvent établir des conclusions basées sur des présomptions, qui ne sont pas explicitement confirmées par les utilisateurs.

Comment l’évolution des chatbots pourrait-elle influencer nos interactions sociales ?

La manière dont nous percevons et utilisons les chatbots pourrait évoluer, les amenant à être considérés non seulement comme des outils, mais comme des compagnons, ce qui modifie notre façon de partager des informations sensibles.