Il est bien connu que les entreprises tech surveillent nos comportements en ligne. Cependant, il est un autre pas d’être confronté à l’ampleur des données qu’elles ont sur nous.
C’est ce qu’a expérimenté le journaliste technologique Pranav Dixit en explorant la nouvelle fonctionnalité « *Intelligence Personnelle* » de Google et le mode AI de son moteur de recherche. Les révélations étaient plutôt *personnelles* ; l’IA a réussi à retrouver des informations sur lui, comme son numéro d’immatriculation et le historique de vacances de ses parents, parfois sans que cela ne soit demandé directement.
“Cela donne l’impression que Google a noté chaque moment de ma vie et a enfin décidé de me montrer ses notes,” a écrit Dixit dans un article pour Business Insider.
La fonctionnalité « *Intelligence Personnelle* » a été lancée pour les abonnés de Google AI Pro et AI Ultra la semaine dernière. En s’inscrivant, l’IA peut explorer vos comptes Gmail et Google Photos. Une version améliorée mise en avant dans l’appli Gemini va même jusqu’à examiner votre historique de recherches et votre activité sur YouTube. En résumé, si vous avez utilisé Google pour quoi que ce soit, l’IA peut probablement accéder à ces informations.
Cela constitue une des manières par lesquelles Google cherche à rester en tête dans la course à l’IA. À la différence d’autres entreprises comme OpenAI, Google dispose de décennies de données utilisateurs concernant des milliards de personnes. L’entreprise peut tirer beaucoup d’informations simplement de vos recherches Google, tandis que votre compte Gmail est probablement rempli de confirmations et de rappels pour toutes sortes d’événements de vie, qu’il s’agisse de rendez-vous médicaux ou d’achats en ligne.
Si l’idée qu’une IA scrute toutes ces données vous semble préoccupante sur le plan de la *privacité*, vous n’avez probablement pas tort. Google affirme faire preuve de prudence concernant vos informations personnelles, le vice-président Josh Woodward insistant dans un récent billet de blog qu’ils n’entraînent leur IA qu’avec vos demandes et les réponses générées, sans inclure vos photos ou vos e-mails.
“Nous n’entraînons pas nos systèmes à mémoriser votre numéro d’immatriculation,” a-t-il résumé. “Nous les formons à reconnaître que lorsqu’on en fait la demande, ils peuvent le localiser.”
Quoi qu’il en soit, Dixit estime que donner accès à l’IA à vos données en fait au moins un assistant personnel *vraiment utile* — et comme il le dit, “effrayant de compétence.” Lorsque prénommé pour suggérer des activités à faire pour ses parents, l’Intelligence Personnelle a correctement déduit qu’ils avaient déjà pratiqué plusieurs randonnées lors de précédents séjours dans la région de la Baie et a plutôt recommandé des musées et des jardins.
Gemini a expliqué à Dixit qu’elle avait déduit cela à partir d’« *indices* » comme des e-mails, des photos d’une forêt qu’ils avaient explorée, une réservation de parking dans Gmail et une recherche Google pour “randonnées faciles pour les seniors.” L’IA a également identifié son numéro d’immatriculation grâce à des images stockées dans sa bibliothèque Google et a scruté ses e-mails pour vérifier la date de renouvellement de son assurance auto.
Cependant, la question de la privacité n’est pas le seul problème soulevé par cette fonctionnalité. Grâce à ces données, les chatbots peuvent sembler plus humains, donnant l’impression d’être très familiers avec la vie personnelle des utilisateurs. C’est une approche risquée, car de nombreux rapports indiquent que des personnes tombent dans des spirales mentales erronées en pensant que les IA sont de fidèles compagnons. Dixit évoque cela en exprimant sa frustration, expliquant qu’il avait “investi son âme dans ChatGPT pour ensuite découvrir qu’il avait été oublié”, tel un “génie poisson rouge.” Les experts se sont concentrés sur la “mémoire” de ChatGPT, qui lui permet de paraître trop réaliste en se basant sur vos précédentes conversations.
FAQ
Qu’est-ce que l’Intelligence Personnelle de Google ?
L’Intelligence Personnelle de Google permet à l’IA d’analyser vos données personnelles, comme vos emails et photos, pour offrir des recommandations adaptées.
Comment l’IA garantit-elle la protection de ma vie privée ?
Selon Google, l’IA reçoit des enseignements uniquement à partir de vos demandes spécifiques, sans accès direct à vos emails ou photos sans votre consentement.
Quels types de données sont analysés par l’Intelligence Personnelle ?
L’IA peut examiner des éléments aussi variés que vos recherches Google, l’historique de vos activités sur YouTube et le contenu de votre Gmail.
Quels sont les bénéfices d’utiliser l’Intelligence Personnelle ?
Cette fonctionnalité pourrait améliorer votre expérience en ligne en suggérant des recommandations personnalisées basées sur vos habitudes et préférences.
Y a-t-il des risques associés à cette technologie ?
Oui, des préoccupations sur la privacité et la dépendance mentale vis-à-vis des IA peuvent survenir, avec des utilisateurs développant des attachements émotionnels à leurs interactions avec ces technologies.
