Alors que l’opposition à l’intelligence artificielle ne cesse de croître, un laboratoire de recherche de premier plan dans ce domaine développe un dispositif de surveillance gigantesque visant à suivre de près les contestataires et à anticiper les prochaines vagues de manifestations.
L’annonce concernant le système d’Anthropic a été relayée pour la première fois par le American Prospect, qui a eu des échanges avec des responsables de la sécurité du laboratoire et a consulté des offres d’emploi pour mieux comprendre l’ampleur de ce programme.
En plus de surveiller les manifestations près de ses bureaux, Anthropic adopte une approche dite de “pré-crime”, se concentrant sur l’observation de tout potentiel trouble civil.
Un exemple cité par le Prospect met en avant des événements narrés par Keon Ellison et Zach Melvin, responsables des opérations de sécurité chez Anthropic, en compagnie de James Neufeld, PDG de l’entreprise de détection des risques Samdesk.
“L’année dernière, un cadre s’est rendu dans une grande ville lorsque nous avons reçu des informations via Samdesk concernant une manifestation prévue,” a confié Ellison. Après qu’un malentendu concernant les autorisations policières ait avancé l’heure de la manifestation d’une heure, il a précisé que “Samdesk nous a avertis 60 minutes à l’avance que les organisateurs avaient modifié le timing.”
“Cette heure supplémentaire a été déterminante,” a ajouté Ellison. “Sans cela, nos dirigeants auraient quitté leurs réunions et se seraient retrouvés directement au cœur de l’agitation. Ce qui aurait pu devenir une situation stressante a été considérablement atténué grâce à une détection précoce par Samdesk et à l’information fournie.”
En plus d’anticiper les manifestations, Anthropic a également signalé des échanges avec son chatbot IA, Claude, aux forces de police. Bien qu’il y ait eu des appels pour renforcer les protections autour des modèles de langage de grande taille, l’approche d’Anthropic semble pour le moins déroutante.
Ainsi, comme l’a rapporté le San Francisco Standard en août, Anthropic a alerté la police de San Francisco après qu’un homme a informé Claude qu’il détenait un fusil et qu’il avait le PDG de la société, Dario Amodei, “dans sa ligne de mire.” Toutefois, lorsque l’entreprise a averti les autorités de la région de la baie, elle a refusé de fournir les journaux de discussion de l’homme. Comme l’a remarqué le Prospect, cela équivaut à signaler un individu sans fournir de preuves concrètes de mauvaise conduite.
“L’objectif,” a déclaré le responsable de la sécurité d’Anthropic lors de l’interview, “est de transformer les opérations d’une approche réactive vers une collecte proactive et prédictive d’informations pour gérer les menaces. C’est ce niveau de maturité opérationnelle qui est logique pour protéger des cibles de grande valeur dans n’importe quel secteur.”
En savoir davantage sur l’IA :Des manifestants arrêtés après avoir envahi le bureau de lobbying d’OpenAI.
## FAQ
#### Qu’est-ce qu’Anthropic ?
Anthropic est une entreprise spécialisée dans le développement de technologies d’intelligence artificielle, notamment des chatbots et des systèmes de gestion de menaces.
#### Pourquoi y a-t-il une surveillance accrue autour des manifestations ?
L’augmentation de la surveillance autour des manifestations est une tendance observée chez plusieurs entreprises pour anticiper et prévenir les troubles civils, en réponse à la montée des contestations contre technologies telles que l’IA.
#### Comment Anthropic utilise-t-elle les données recueillies ?
Anthropic utilise les données pour analyser et prédire les comportements de manifestation, afin de mieux protéger ses employés et de gérer de potentiels risques.
#### Quels sont les enjeux éthiques de cette surveillance ?
Les enjeux éthiques incluent la protection de la vie privée, le droit à la liberté d’expression et les implications de signaler des individus sans preuves concrètes d’inconduite.
#### Quels sont les appels à l’action concernant les modèles d’IA ?
Des voix se sont élevées pour demander des réglementations et des protections plus strictes autour des modèles de langage, afin de garantir qu’ils ne soient pas utilisés à des fins de surveillance abusive ou de répression.
