Alors que Meta s’efforçait de lancer son agent d’IA Muse au public le mois dernier, Mark Zuckerberg, le PDG de l’entreprise, a utilisé les réseaux sociaux pour affirmer que cette technologie avait été “construite dès le départ pour la confidentialité et la sécurité.”
Sur X, anciennement Twitter, un message simple du milliardaire a rapidement été corrigé par une note de la communauté, et pour de bonnes raisons : l’agent d’IA représente une source de *terribles* problèmes en matière de confidentialité.
Comme l’a signalé Ars Technica aujourd’hui, des chercheurs en sécurité ont découvert que Muse avait la capacité d’exposer des informations sensibles sur ses utilisateurs via des liens web générés par une fonctionnalité de “partage”. Des enquêteurs de la société de cybersécurité Claroc ont récemment mis au jour une méthode simple permettant d’accéder à des pages venant de plus de 6 800 liens que Muse avait générés pour partager des contenus avec d’autres utilisateurs.
Le procédé fonctionnait ainsi : lorsqu’un utilisateur de Muse souhaitait partager quelque chose avec une autre personne, par exemple, une copie de son historique de discussion avec Muse, l’outil d’IA créait un lien web pour ce “partage”. Cette URL contenait à la fois le titre de la discussion généré par l’IA et une chaîne aléatoire de caractères.
Une fois que quelqu’un ouvrait le lien, l’adresse web complète était enregistrée dans une base de données de recherche, semblable à un annuaire de pages visitées. Les chercheurs étaient alors capables de chercher dans cet ensemble d’adresses liées à Muse, d’où ils ont pu retrouver des discussions publiques sans rapport.
En explorant ces “annuaires”, les enquêteurs ont pu accéder facilement à des historiques de discussion contenant des informations privées détaillées, y compris des documents de revenus d’entreprise, des demandes de prêt, des détails de transactions bancaires et même un calendrier de vacances d’un lieu de travail, comme l’a noté Ars.
“Si vous nous aviez demandé auparavant, nous aurions pensé que rassembler ces informations nécessiterait un vrai effort,” ont écrit les chercheurs. Au lieu de cela, “il a suffi d’une seule requête.”
Bien que Meta ait informé Ars que cette fonctionnalité avait été désactivée, cette bourde en matière de confidentialité n’est que la dernière d’une longue liste de lacunes de sécurité liées à Muse.
Plus tôt ce mois-ci, il a été révélé que Muse conservait des fichiers détaillés sur les amis et la famille des utilisateurs, suivant apparemment une directive interne visant à garder une “page pour chaque personne de la vie de l’utilisateur”.
Si les premiers mois de Muse entre les mains du public sont révélateurs, il est probable que cela ne soit que le début d’une liste de nombreuses erreurs en matière de sécurité et de confidentialité pour ce modèle d’IA aux airs inoffensifs.
Informations supplémentaires sur Meta : Meta utilise ses immenses centres de données IA pour éviter de payer des milliards de dollars en impôts.
FAQ
Qu’est-ce que l’agent d’IA Muse de Meta ?
Muse est un agent d’intelligence artificielle développé par Meta, conçu pour interagir avec les utilisateurs et générer des réponses basées sur des conversations.
Quelles sont les principales préoccupations en matière de confidentialité liées à Muse ?
Des informations sensibles peuvent être exposées à cause de failles dans le système de partage de liens, permettant potentiellement à d’autres utilisateurs d’accéder à des données personnelles d’un utilisateur donné.
Meta a-t-elle pris des mesures pour remédier à ces problèmes de sécurité ?
Bien que Meta ait déclaré que certaines fonctionnalités problématiques avaient été désactivées, plusieurs questions demeurent quant à l’efficacité de leurs mesures de sécurité à long terme.
Quelles types d’informations personnelles peuvent être exposées ?
Les recherches indiquent que des informations telles que des documents financiers, des demandes de prêt et des détails sur des conversations personnelles peuvent être accessibles.
Comment les utilisateurs peuvent-ils protéger leurs données sur Muse ?
Il est recommandé d’exercer une prudence accrue lors du partage d’informations sensibles et de suivre les mises à jour de sécurité fournies par Meta concernant leur utilisation de Muse.
