Face à la pression croissante exercée sur les laboratoires d’intelligence artificielle, il est de plus en plus évident qu’ils surveillent les échanges de leurs utilisateurs afin de limiter les nombreux préjudices que leurs produits peuvent causer.
Prenons l’exemple de Carli Michelle Heller, une femme arrêtée à Bonita Springs, en Floride, après avoir prétendument révélé à Claude, le chatbot d’Anthropic, son intention de “tuer” dans un bureau du shérif voisin.
D’après WINK News, Heller a été accusée d’avoir formulé une menace écrite de violence, un délit de seconde classe en Floride. Les journaux de discussion de Heller ont été signalés par le logiciel de surveillance interne d’Anthropic pour faire l’objet d’un examen humain. Après que ses messages ont été analysés par un employé d’Anthropic, il a été conclu que ses déclarations constituaient une menace crédible, entraînant ainsi une alerte aux forces de l’ordre locales, selon WINK.
Le shérif du comté de Lee, Carmine Marceno, a confié aux journalistes que Heller avait considéré Claude comme un “journal intime”, sans se douter que ses conversations pouvaient être consultées par des employés d’Anthropic.
La situation actuelle met en lumière un véritable conflit entre **la confidentialité des utilisateurs** et **la responsabilité des entreprises d’IA** de prévenir des actes de violence. Par exemple, après la **fusillade de masse** survenue en février à Tumbler Ridge, au Canada, il a été révélé que l’assaillant avait largement utilisé ChatGPT pour préparer son attaque.
Non seulement les employés d’OpenAI étaient au courant de l’historique de discussion avant la fusillade, mais ils avaient également été signalés pour un examen humain des mois auparavant. De plus, des responsables de l’entreprise ont tenté de dissimuler, puis de minimiser le rôle de leur produit dans l’incitation à cette attaque mortelle.
Bien qu’Anthropic ait un **palmarès** déplorable en matière de préjudice réel, la société semble au moins tenter d’éviter un incident similaire. Cependant, avec un nombre presque infini de chatbots disponibles sur le marché, il se pourrait déjà qu’il soit trop tard pour prévenir la prochaine tragédie assistée par IA.
À lire également sur Anthropic : Des rumeurs circulent sur un culte d’initiés d’Anthropic vénérant Claude comme un dieu
FAQ
Quelles sont les implications de la surveillance des utilisateurs par les entreprises d’IA ?
La surveillance des échanges des utilisateurs peut soulever des préoccupations en matière de confidentialité et de liberté d’expression, tout en soulevant des questions sur la responsabilité des entreprises pour des comportements violents qui pourraient être encouragés.
Comment les entreprises d’IA gèrent-elles les menaces potentielles ?
Les entreprises d’IA, comme Anthropic, utilisent des outils de surveillance automatisés pour détecter les menaces. En cas de détection d’un contenu préoccupant, les messages sont souvent examinés par des employés humains.
Quels sont les risques associés aux chatbots dans des situations critiques ?
Les chatbots peuvent être utilisés pour planifier des comportements nuisibles. Cela soulève des questions quant à leur efficacité et à la nécessité d’une réglementation stricte pour limiter leur utilisation dans des contextes potentiellement dangereux.
Y a-t-il eu d’autres cas similaires aux États-Unis ?
Oui, des cas similaires se sont produits où des utilisateurs de chatbots ont été signalés aux autorités pour des menaces violentes, ce qui soulève des questions sur l’équilibre entre sécurité publique et droits individuels.
Que peut-on faire pour renforcer la sécurité autour des IA ?
Il est crucial d’établir des directives éthiques et des protocoles de sécurité clairs pour les entreprises d’IA, afin de réduire les risques d’abus tout en respectant la confidentialité des utilisateurs.
