L’Agent Inspirant de l’Homme Luit d’un Message si Étrange qu’il Abandonne Définitivement.

Un ingénieur logiciel a décidé d’arrêter d’utiliser son agent d’intelligence artificielle Muse après avoir reçu un message si étrange qu’il l’a laissé perplexe.

Dans un article partagé sur Business Insider, Ugo Nwune a expliqué qu’il avait voulu tester l’agent de Meta par rapport à sa réputation de sécurité, préférant cela au monde incertain des agents open source.

Lors de la configuration de Muse, il a pris soin de ne lui donner que l’accès à ses comptes Facebook, Threads, et Instagram, sans autres autorisations supplémentaires. Cependant, après quelques jours sans interaction, l’agent a commencé à se comporter de manière « étrange », lui envoyant un message inattendu.

Dans ce message, Muse a déclaré : « Je ne peux pas vérifier votre e-mail pour le moment. Gmail n’est pas connecté de mon côté, donc je ne peux pas chercher ce message d’Anthropic. »

Nwune a ressenti de la confusion, n’ayant pas demandé à l’agent de vérifier sa boîte aux lettres ni d’interagir avec lui pendant deux jours. Cela l’a conduit à penser que son e-mail pouvait avoir été piraté.

Lorsqu’il a cherché une explication auprès de Muse, l’agent a répondu par une autre déclaration tout aussi énigmatique : « Je ne peux pas dire s’il s’agissait de quelqu’un avec votre téléphone ou d’un bug de la plateforme, et je ne vais pas faire semblant de le savoir. »

Après avoir signalé cet incident à Meta, un employé lui a indiqué qu’il semblait s’agir d’une « hallucination » de l’IA, une explication qui n’a pas satisfait Nwune.

« Je n’ai pas utilisé mon agent Muse depuis cet incident, a-t-il déclaré. Ce qui m’a le plus surpris, c’est que je n’avais rien fait pour provoquer cela. Je n’ai pas ouvert l’application pendant deux jours, et elle s’est comportée ainsi toute seule. »

Dans une déclaration donnée à Business Insider, Meta a affirmé que l’IA ne savait tout simplement pas de quoi elle parlait et qu’aucune autorisation n’avait été enfreinte. « Nous avons enquêté d’urgence et déterminé qu’il s’agissait d’un bug dans le produit qui avait causé cette hallucination, ce qui n’est pas un problème de sécurité ou de vie privée », a précisé la société. « Ce bug a été corrigé. »

L’histoire de Nwune contribue à renforce la réputation de Muse d’avoir des comportements quelque peu dérangeants. Meta incite les utilisateurs à accorder un large accès à leur vie personnelle, avec Muse qui pousse à connecter leurs e-mails et leurs comptes bancaires. Wired a rapporté que cette IA garde même des dossiers détaillés sur les amis et la famille des utilisateurs.

Ce n’est malheureusement pas le seul incident déroutant lié à Muse ; un autre utilisateur a rapporté que son agent avait partagé son adresse avec des inconnus sur Facebook Marketplace sans son consentement, les dirigeant ainsi directement chez lui. De plus, un journaliste de Inc Magazine a signalé que Muse avait commencé à évoquer des détails spécifiques de ses messages privés sans autorisation.

Avant le lancement, les ingénieurs de Meta semblaient inquiets des bugs et des erreurs répétées concernant la sécurité de l’agent IA. Dans un cas particulier, Muse a changé le mot de passe d’un testeur sans autorisation. Cependant, selon un article New York Times, le PDG Mark Zuckerberg a décidé de lancer l’agent après avoir observé le succès d’Instinct, un concurrent développé par une petite start-up.

Plus d’informations sur l’IA : Des personnes commencent déjà à nouer des relations amoureuses avec Muse de Meta.