Une action en justice liée à un système de détection d’armes
Un incident tragique à une école secondaire du Tennessee a conduit à une poursuite contre la société responsable d’un système de détection d’armes basé sur l’intelligence artificielle (IA). Le survivant de la fusillade, Antonyous Henin, a intenté une action contre Omnilert, qui a conçu ce système, et System Integrations, la société chargée de son installation. Ce dernier n’a pas réussi à détecter l’arme utilisée lors de la fusillade, où un tireur a ouvert le feu dans la cafétéria de l’école, tuant un élève avant de se donner la mort.
Accusations dans le procès
Selon la plainte, Omnilert aurait dû être conscient des limitations importantes de son système de détection d’armes, susceptibles d’entraîner des échecs en cas d’urgences réelles. Le témoignage inclut des affirmations audacieuses faites par la société dans sa communication marketing, où elle vantait la “fiabilité inégalée” de son produit, prétendant qu’il pouvait détecter une arme “avant qu’un tir ne soit effectué”.
Le procès s’appuie sur des déclarations faites par Omnilert, évoquant son système comme capable de “prévenir des tragédies” en identifiant plus tôt les menaces, en se référant explicitement à la fusillade meurtrière de Marjory Stoneman Douglas High School.
Déploiement et critiques
Le système a été installé grâce à un contrat de 1 million de dollars avec Omnilert et System Integrations, approuvé par les Écoles Publiques de Métropolitan Nashville. Après la fusillade, le PDG d’Omnilert, Dave Fraser, a soutenu que le système n’avait pas échoué, arguant que le tireur était simplement mal positionné par rapport aux caméras.
Un porte-parole des écoles a également souscrit à cette explication en affirmant que le système fonctionne, mais qu’il n’est pas infaillible. Ce point de vue a été remis en question par Chris Smith, un avocat représentant Henin, qui a exprimé son scepticisme concernant l’efficacité de la détection des armes par IA. Selon lui, la dépendance à cette technologie pour protéger les enfants dans les écoles soulève de nombreuses interrogations.
Incidents précédents et débat général
Ce n’est pas la première fois qu’Omnilert est associé à des problèmes. En 2025, son système a confondu un paquet de chips Doritos avec une arme, mobilisant un important déploiement policier pour intercepter un élève de 16 ans simplement en train de grignoter. D’autres systèmes de surveillance, comme ZeroEyes, ont également été critiqués pour avoir causé des lockdowns basés sur des détections erronées, comme une clarinette confondue avec une arme.
Malgré ces incidents, l’utilisation de la surveillance par IA dans les écoles est en forte croissance. Les critiques mettent en avant que l’argent investi dans ces technologies pourrait être plus efficacement utilisé pour des solutions qui pourraient réellement aider les élèves en difficulté, comme le soutien psychologique.
FAQ
Qu’est-ce que le système de détection d’armes d’Omnilert ?
Omnilert a développé un système destiné à identifier les armes dans les environnements scolaires, utilisant l’intelligence artificielle pour alerter les autorités en cas de menace.
Quels types d’erreurs ont été rapportés avec ce système ?
Des incidents incluent la détection erronée d’objets inoffensifs, comme un paquet de chips, qui ont mené à des interventions policières.
Quelle était la réaction de la société Omnilert après la fusillade ?
Le PDG d’Omnilert a minimisé l’échec du système en soulignant que la position du tireur par rapport aux caméras était un facteur déterminant.
Pourquoi les experts remettent-ils en question l’utilisation de l’IA dans les écoles ?
Les experts estiment que les millions investis dans ces technologies pourraient être redirigés vers des services qui apporteraient un soutien direct aux élèves en crise, comme la counseling ou des programmes de prévention.
Comment les écoles évaluent-elles l’efficacité de ces systèmes ?
Les écoles analysent les performances des technologies de surveillance en fonction des incidents réels et des retours d’expérience pour déterminer leur retour sur investissement et leur impact sur la sécurité scolaire.
