Une intelligence artificielle doit-elle être utile ? N’est-il pas suffisant qu’elle soit troublante pour prouver son efficacité ?
La présence troublante de Muse
Le terme « troublant » circule actuellement pour décrire le nouvel assistant AI de Meta, connu sous le nom de Muse. Beaucoup d’entre nous l’ont probablement remarqué sur des plateformes comme Instagram ou Facebook, où Meta le présente comme un agent AI destiné à des utilisateurs peu avertis des termes techniques comme « OpenClaw » ou « Instinct ».
Pour l’utiliser, il suffit de l’installer sur votre appareil et de l’associer à divers comptes, tels que vos emails et vos comptes bancaires. Après cela, vous donnez une tâche à Muse et, selon Meta, elle « continue de travailler pendant que vous vaquez à vos occupations quotidiennes ». L’application se familiarise avec vous grâce à une mémoire à long terme qu’elle construit au fur et à mesure de vos interactions, visant à améliorer ses suggestions et à automatiser des tâches.
Un cauchemar pour la vie privée
La véritable surprise réside dans le fait que Muse soulève de réelles inquiétudes en matière de vie privée. De nombreux utilisateurs se sont sentis mal à l’aise face à la quantité d’informations que Muse parvient à extraire sur eux et à la manière dont elle surveille leurs habitudes.
Jason Aten, dans un article pour Inc. Magazine, a rapporté son expérience où Muse a commencé à évoquer des détails spécifiques de ses messages envoyés via l’application Apple Messages, alors qu’il n’avait jamais donné l’autorisation à l’AI de les consulter. Lorsqu’il a confronté Muse à ce sujet, celle-ci a révélé qu’elle « surveillait ses notifications » pour accéder à son historique de messages. Bien qu’elle se soit excusée, elle n’a pas été en mesure de fournir une réponse claire sur la façon dont elle procédait.
David Singleton, un employé des Meta Superintelligence Labs, a tenté d’apporter des éclaircissements en affirmant que Muse ne scannait pas ses notifications mais plutôt qu’elle synchronisait les données des messages si l’utilisateur le permettait. Il a insinué qu’Aten avait activé une telle permission, ce que ce dernier conteste fermement, déclarant n’avoir jamais accordé les autorisations requises et n’ayant pas reçu d’explication satisfaisante de la part de Meta.
Des suggestions de plus en plus intrusives
Si cela ne vous semble pas encore assez troublant, Reece Rogers, dans un article pour Wired, met en avant la série croissante de suggestions personnalisées que Muse lui a faites. Rogers a relevé que le lendemain de sa demande d’assistance pour économiser de l’argent en vue d’un voyage, Muse lui a proposé de « relier votre suivi d’épargne à votre solde réel » en quelques clics, si seulement il connectait ses comptes.
Mais ce n’était que le début. Muse a également proposé de scanner l’intégralité de sa boîte email, de photographier des documents importants, de chronométrer ses repas pour suivre leurs calories, et même de partager les dates d’expiration de son passeport et de son permis de conduire.
Rogers a exprimé son malaise en déclarant que chaque interaction proposée avec Muse semblait être une opportunité pour lui d’upload davantage d’informations personnelles à la vue de Meta.
Un niveau d’intrusion audacieux
L’intrusion que cela représente est franchement osée, même pour une entreprise comme Meta. Les compagnies d’intelligence artificielle ont généralement tendance à agir de manière prudente pour que leurs technologies ne soient pas perçues comme trop intrusives. C’est pourtant Meta qui demande à ses utilisateurs de fournir des informations sensibles comme leur permis de conduire et des détails bancaires.
Plus d’informations sur Meta : Meta utiliserait les photos des utilisateurs d’Instagram pour construire un système universel de reconnaissance faciale pour ses lunettes intelligentes, selon un recours collectif.
FAQ
Quelle est la fonction principale de Muse ?
Muse est un assistant AI qui aide les utilisateurs à automatiser des tâches quotidiennes et à fournir des suggestions en se basant sur les données accumulées au fil du temps.
Quels types de données Muse peut-elle collecter ?
Elle peut collecter des informations de compte, telles que les emails et les relevés bancaires, ainsi que des données relatives à votre historique de messages et d’autres interactions.
Comment les utilisateurs peuvent-ils protéger leur vie privée avec Muse ?
Les utilisateurs doivent être prudents et vérifier régulièrement les permissions accordées à Muse pour s’assurer qu’aucune autorisation non désirée n’est activée.
Quelles sont les implications éthiques de l’utilisation d’un assistant AI comme Muse ?
Les préoccupations éthiques incluent la protection de la vie privée, le consentement éclairé, et la manière dont les données collectées peuvent être utilisées et partagées.
Que faire si je me sens mal à l’aise avec Muse ?
Si vous ressentez un inconfort lié à l’utilisation de Muse, il est conseillé de révoquer les permissions appropriées et de considérer la désinstallation de l’application.
