Crédit photo : Muse par InteraXon
L’entreprise InteraXon, créatrice des bandeaux de suivi du sommeil Muse, a récemment modifié sa politique de confidentialité. Cette décision fait suite à des interrogations concernant l’utilisation d’environ 50 000 heures de données de vagues cérébrales d’utilisateurs pour entraîner un modèle d’intelligence artificielle, sans en avoir averti les personnes concernées de manière claire.
Ce qu’il faut retenir
Les enregistrements des utilisateurs, en anonymisant les noms et adresses électroniques, constituent la majorité des données utilisées pour le modèle d’IA d’InteraXon, appelé « brain foundation model ». Cette société canadienne spécialisée en neurotechnologie prévoit d’exploiter ce modèle pour améliorer ses services et appuyer la recherche sur le cerveau, selon des informations de Science.
Un utilisateur de Muse, Adnan Jinnah, habitant à Leicester en Angleterre, n’avait pas conscience que ses enregistrements pourraient être employés pour entraîner de l’IA. Il s’était servi du bandeau pour analyser l’impact du stress et des médicaments sur son sommeil.
Les questions soulevées par Science au sujet de cette absence de transparence ont poussé InteraXon à réévaluer sa politique de confidentialité. Nadia Kumentas, responsable marketing chez InteraXon, a déclaré à Science : “Nous sommes d’accord pour dire que les utilisateurs devraient être informés de manière explicite.”
Une fois qu’une information a été intégrée dans un modèle d’IA, il est très complexe de la retirer, comme l’a souligné Science. À ce moment, InteraXon avait déjà formé son modèle avant d’initier ce changement de politique.
Contexte additionnel
Parmi les 57 entreprises qui récoltent des données d’électroencéphalographie (EEG), 11 ont limité leurs politiques de confidentialité à celles concernant les visiteurs de leur site Web, et quatre n’avaient aucune politique en place. Ces carences ont été mises en lumière dans une enquête d’un an menée par Science.
Neuf sociétés dans le domaine de la neurotechnologie pour les consommateurs et des logiciels d’IA ont publiquement partagé leurs travaux sur les modèles de fondation cérébrale. Cependant, seules six d’entre elles ont explicitement affirmé qu’elles ne vendraient pas les données cérébrales de leurs utilisateurs. Plus des deux-tiers ont permis le transfert de données à des entreprises tierces, ce qui soulève des inquiétudes sur la sécurité des enregistrements cérébraux.
Les entreprises développant ces modèles estiment qu’ils pourraient devenir des technologies révolutionnaires dans le domaine médical. Tan Le, fondateur et PDG d’Emotiv, a affirmé : “Le modèle est là pour servir le monde dans de nombreux domaines.” Cette start-up de neurotechnologie, basée à San Francisco, a mis au point plusieurs dispositifs portables d’EEG.
Un étude pilote a montré que le modèle de la start-up d’IA Piramidal pouvait détecter 90 % des crises d’épilepsie après avoir été calibré avec des données de la Cleveland Clinic. Ce modèle a été élaboré à partir d’enregistrements d’EEG provenant d’hôpitaux et de sources accessibles au public.
Quelles actions sont entreprises ?
Les nouvelles divulgations de confidentialité d’Emotiv révèlent que l’entreprise utilise des données anonymisées pour entraîner ses modèles de fondation cérébrale, mais uniquement avec le consentement préalable des utilisateurs. Ce changement a été mis en place après que Science a interrogé l’entreprise sur ses pratiques.
En 2021, le Chili a instauré des protections constitutionnelles pour l’activité cérébrale et les données qui y sont associées. Un défi concernant les pratiques de consentement d’Emotiv, formulé par l’ancien sénateur chilien Guido Girardi, a conduit la Cour suprême du Chili à ordonner à l’entreprise de supprimer ses données cérébrales en août 2023.
Les habitants du Colorado et de Californie peuvent désormais demander l’accès ou la suppression de leurs données neuronales, en vertu des modifications apportées aux lois sur la confidentialité des consommateurs de ces États. Ces modifications classent les données neuronales comme des informations personnelles sensibles.
Le sénateur américain Chuck Schumer a proposé un projet de loi demandant à la Federal Trade Commission de recommander un cadre réglementaire et d’examiner les lacunes dans les protections existantes. Nita Farahany, professeur de droit et de philosophie à l’Université de Duke, a souligné que le consentement doit tenir compte de l’utilisation réelle des informations. “Cela a de l’importance si vous acceptez quelque chose, mais que l’utilisation qui en est faite est totalement différente de ce que vous aviez imaginé,” a-t-elle déclaré à Science.
Où puis-je en savoir plus ?
Des questions similaires sur le consentement et la confidentialité émergent concernant les outils d’IA que les gens portent, avec lesquels ils interagissent et qui sont connectés à leurs comptes personnels.
- Des sénateurs mettent en garde contre le fait que les lunettes intelligentes de Meta pourraient capturer des images intimes de tiers pour les intégrer dans des modèles d’IA.
- L’IA Muse de Meta suit où se trouvent vos proches et ce qu’ils aiment.
- Au Royaume-Uni, un expert en sécurité avertit que la technologie d’IA de Meta peut entendre, voir et mémoriser.
Inscrivez-vous aux newsletters gratuites de TCD pour des conseils pratiques et la possibilité de gagner 5 000 $ pour des améliorations domiciliaires. Pour voir d’autres articles comme celui-ci, modifiez vos préférences Google ici.
FAQ
Qu’est-ce qu’un modèle de fondation cérébrale ?
Un modèle de fondation cérébrale est un système d’intelligence artificielle formé à partir de données de vagues cérébrales, permettant d’analyser et de comprendre des mécanismes cérébraux complexes.
Quel est le risque de partager mes données cérébrales ?
Le partage de données cérébrales peut entraîner des préoccupations concernant la confidentialité et l’utilisation non autorisée de ces données par des entreprises tierces.
Quels pays protègent la confidentialité des données neuronales ?
Des pays comme le Chili ont commencé à établir des lois pour protéger les données neuronales, mais les protections varient largement d’un pays à l’autre.
Comment puis-je protéger mes données personnelles lorsque j’utilise des dispositifs d’IA ?
Il est conseillé de lire attentivement les politiques de confidentialité, de choisir des dispositifs offrant des options de consentement claires et de vous informer sur la façon dont vos données peuvent être utilisées.
Existe-t-il des réglementations internationales sur les données cérébrales ?
Actuellement, il n’existe pas de cadre réglementaire international unifié sur les données cérébrales, bien que certains pays commencent à mettre en place leurs propres lois de protection.
