Une expérience traumatisante
Des établissements scolaires ont commencé à utiliser des logiciels d’intelligence artificielle douteux pour détecter des signes chez les adolescents qui pourraient indiquer qu’ils envisagent de se faire du mal. Ce processus peut mener à des interventions policières chez ces jeunes, souvent avec des conséquences inattendues et stressantes.
Des algorithmes intrusifs
Selon un article du New York Times, des programmes sont intégrés dans les appareils fournis par les écoles pour surveiller toutes les saisies des étudiants. Ces algorithmes analysent le langage afin d’identifier des signaux de détresse, comme l’intention de se blesser. Cependant, ce type de surveillance peut mal interpréter les mots des adolescents, pouvant provoquer des situations alarmantes. Par exemple, une jeune fille de 17 ans vivant à Neosho, Missouri, a été réveillée en pleine nuit par des policiers suite à une alerte générée par un poème qu’elle avait écrit.
Le logiciel responsable, appelé GoGuardian Beacon, est censé protéger les étudiants des menaces physiques, mais son efficacité est remise en question.
Conséquences non désirées
La mère de la jeune fille a décrit cet incident comme une des pires expériences de sa vie. Ce genre d’incidents soulève des interrogations sur la valeur et l’éthique de ces technologies de surveillance, particulièrement en ce qui concerne le bien-être des jeunes.
Surveillance accrue et ses limites
Avec l’essor de la technologie éducative durant la période des confinements liés à la COVID-19, la surveillance des étudiants chez eux s’est fortement intensifiée. Les systèmes d’alerte basés sur des mots-clés visent à détecter une éventuelle intention de se blesser, mais il reste flou sur leur efficacité réelle. Le New York Times souligne qu’aucune donnée n’a été publiée par les entreprises à ce sujet.
Les écoles reconnaissent qu’il y a eu des cas où ces systèmes ont permis d’intervenir avant que certains élèves ne soient en danger imminent. Cependant, les critiques s’élèvent face à l’intrusion de la vie privée que cela engendre.
Un débat en cours
Des organisations de défense des droits civiques estiment que l’implication des forces de l’ordre n’est pas toujours appropriée. Avec des suicides chez les jeunes devenant la deuxième cause de décès aux États-Unis chez les 5 à 24 ans, la question se pose : ces technologies sont-elles vraiment le meilleur moyen pour lutter contre ce fléau ? Bien que certaines personnes défendent l’idée que des alertes, même fausses, valent la peine si cela peut sauver une vie, d’autres comme le conseiller municipal de Baltimore, Ryan Dorsey, mettent en doute cette approche en raison d’un manque de transparence sur les résultats.
FAQ
Quelle est la principale préoccupation concernant ces logiciels de surveillance ?
La principale préoccupation est leur capacité à mal interpréter les intentions des étudiants, ce qui peut mener à des interventions policières inappropriées et traumatisantes.
Ces technologies sont-elles réellement efficaces ?
Actuellement, il n’existe pas de données suffisantes publiées par les entreprises pour prouver leur efficacité dans la prévention du suicide chez les jeunes.
Comment ces systèmes de surveillance affectent-ils la vie des étudiants ?
Ces systèmes peuvent induire un stress important chez les étudiants en surveillant constamment leurs écrits et en provoquant des interventions qui peuvent être vécues comme une violation de leur vie privée.
Quelles alternatives pourraient être envisagées pour protéger les adolescents ?
Des approches plus centrées sur le soutien émotionnel, telles que des conseils psychologiques et des programmes d’écoute, pourraient être plus appropriées que des interventions policières.
Y a-t-il des exemples de cas où ces technologies ont eu des résultats positifs ?
Certaines écoles rapportent que ces systèmes ont permis des interventions opportunes dans des situations critiques, mais ces exemples sont souvent trop peu nombreux pour justifier leur utilisation généralisée.
