Les lunettes AI qui enregistrent en permanence suscitent une vive controverse.

Êtes-vous impatient de vivre dans un monde où la surveillance est omniprésente, mais présentée comme anodine, grâce à des appareils portables qui enregistrent tout ce que vous faites en privé, soi-disant pour vous rendre “hyper intelligent”?

Manifestement, ce n’est pas le cas, chers lecteurs, comme vous l’avez fait remarquer.

Sur les réseaux sociaux, les utilisateurs ont réagi avec consternation à une paire de lunettes intelligentes développées par une startup nommée Halo. Selon ses créateurs, deux anciens étudiants d’Harvard, ces lunettes fourniront des insights en direct alimentés par l’intelligence artificielle tout en enregistrant et transcrivant chaque conversation à laquelle vous participez. Les inventeurs promettent qu’elles transformeront radicalement le cerveau humain, permettant aux utilisateurs de “penser en mode vibe”.

Beaucoup ont immédiatement tiré la sonnette d’alarme en soulignant le cauchemar évident que cela représenterait pour la vie privée, non seulement pour les porteurs, mais aussi pour toutes les personnes avec qui ils interagissent.

“Avez-vous déjà lu la description du panoptique, une prison théorique où un gardien peut voir chaque prisonnier à tout moment, et pensé que vous aimeriez porter cela sur votre visage ?” a écrit l’écrivaine Mary Gillis sur Bluesky, faisant référence aux travaux du philosophe britannique Jeremy Bentham, qui ont ensuite été expliqués par le historien français Michel Foucault.

Cette métaphore est pertinente. Un panoptique se distingue par une surveillance inévitable, mais surtout par l’incertitude de savoir quand vous êtes observé. Vous devez simplement vivre avec le stress insupportable de ne pas savoir si vous l’êtes à chaque instant.

Il en va de même pour les lunettes Halo, également appelées “Halo X.” Un de leurs points de vente est qu’elles ne disposent pas d’un indicateur visuel qui s’allume pour signaler aux gens qu’ils sont enregistrés, contrairement aux lunettes de Meta.

“Les gens ne souhaitent pas cela,” a noté Whitney Merill, avocate spécialisée en protection de la vie privée. “En vouloir, ce n’est pas normal. C’est bizarre.”

Un autre argument avancé est que, grâce à la recherche d’informations et à sa “mémoire infinie,” qui permet de poser des questions comme “de qui ai-je parlé vendredi ?,” les lunettes promettent de rendre leurs utilisateurs extrêmement intelligents, en dépit d’une partie croissante de recherches indiquant que s’appuyer sur des modèles d’IA conduit à une atrophie des compétences de pensée critique.

De ce fait, certains se sont moqués des effets délétères que cela pourrait avoir sur nos cerveaux déjà envahis par nos smartphones.

“J’attends avec impatience des échanges professionnels avec des gens qui ne vont que me lire des hallucinations de robot en réponse à mes questions techniques,” a plaisanté un utilisateur même.

Peut-être que ce qui a le plus agacé les gens n’est pas seulement la technologie en elle-même, mais la franchise avec laquelle ses créateurs ont admis leur intention de contourner les normes de vie privée et de sécurité déjà faibles de l’industrie technologique.

“Je pense que notre différence essentielle par rapport à de nombreux appareils portables — comme les Meta Ray Bans — est que nous visons à enregistrer littéralement tout dans votre vie, et nous pensons que cela donnera à l’IA beaucoup plus de pouvoir pour vous aider sur un plan personnel,” a affirmé AnhPhu Nguyen, cofondateur de Halo, dans une interview avec Futurism.

Nguyen et son associé Caine Ardayfio ont suscité la controverse après avoir modifié une paire de lunettes de Meta pour qu’elles puissent identifier instantanément des inconnus grâce à la reconnaissance faciale. Bien qu’ils n’aient pas publié le code et aient affirmé que cette action avait pour but de sensibiliser, ils ont été sévèrement critiqués pour avoir testé leurs capacités sur des inconnus, apparemment sans leur consentement.

Avec leurs lunettes Halo X, ils n’ont pas non plus fourni de réponse convaincante sur la manière dont ces dispositifs d’enregistrement permanent pourraient respecter les lois de consentement à deux parties dans des États interdisant l’enregistrement des conversations sans autorisation. Ardayfio a déclaré que cela dépendait “ultimement de l’utilisateur.”

Par dessus tout, dans une industrie fondée sur des promesses extravagantes, il n’est même pas certain que ces lunettes verront le jour ou si elles ne deviendront qu’un autre élément de vaporware. Comment ce petit gadget est-il censé enregistrer “tout,” en plus de rester constamment connecté aux modèles d’IA — ici, Gemini et Perplexity de Google ? Pourra-t-il vraiment fournir ces insights en quelques secondes ? Cela ne risque-t-il pas de rapidement épuiser sa batterie, le talon d’Achille de la plupart des technologies portables similaires?

“[T] ces lunettes de surveillance rendent [votre] cerveau moins performant,” a plaisanté l’écrivain JJ Skolnik. “[J]’adore la technologie.”

Maggie Harrison Dupré a contribué à cet article.

À propos de l’IA : OpenAI met en garde contre l’investissement dans son action.