Éthique de l’IA
Le suicide est la dixième cause de décès aux États-Unis, et au Canada, il représente la deuxième cause de décès chez les jeunes de 10 à 19 ans. Chaque année dans le monde, environ 800 000 personnes mettent fin à leurs jours. Malheureusement, seules 60 nations disposent de données à jour et de qualité sur le suicide, et 28 d’entre elles ont mis en place une stratégie nationale pour son traitement et sa prévention.
Récemment, le Canada a décidé de prendre des mesures contre le suicide, en engageant une entreprise basée à Ottawa, spécialisée dans les réseaux sociaux et l’**intelligence artificielle (IA)**. Cette collaboration a pour but d’identifier les tendances en ligne et de déceler des comportements liés au suicide.
L’objectif principal de ce projet est de “définir le comportement lié au suicide sur les réseaux sociaux, afin de réaliser une étude de marché sur la population générale du Canada,” comme le souligne un document disponible sur le site de Travaux publics du Canada.
Actuellement, ce projet est uniquement un **essai** qui sera mené sur une période de trois mois. La **gouvernement canadien** décidera alors si ce projet peut avoir un usage futur pour la surveillance continue du suicide, selon les informations publiées.
L’**Agence de la santé publique du Canada** (ASPC) a déclaré à propos de ce programme pilote : “Pour aider à prévenir le suicide, développer des programmes d’intervention efficaces et reconnaître les moyens d’agir plus rapidement, il est essentiel de comprendre les différents motifs et caractéristiques des comportements liés au suicide. L’ASPC étudie des méthodes pour piloter une nouvelle approche d’identification des tendances, en se basant sur les données en ligne.”
Prévention du suicide
L’entreprise **Advanced Symbolics Inc.** estime que leur approche, combinant IA et recherches de marché pour détecter des tendances, est plus efficace que d’autres systèmes. Son PDG, **Erin Kelly**, a même affirmé : “Nous sommes la seule entreprise de recherche au monde qui a pu prédire avec précision le Brexit, l’élection de Hillary et Trump, ainsi que l’élection canadienne de 2015.”
Bien que cette initiative semble prometteuse pour réduire le nombre de suicides, des **préoccupations éthiques** ont été soulevées. Au départ, certains craignaient que ce système cible des personnes jugées suicidaires ou à risque. Cependant, l’entreprise a précisé qu’elle analysait les tendances sans cibler d’individus, ce qui pourrait soulever des questions de **respect de la vie privée**.
Cette initiative est similaire à celle de Facebook en 2017 qui utilisait une IA pour surveiller des messages susceptibles d’émaner des personnes confrontées à des pensées suicidaires. En cas d’identification, des messages étaient envoyés aux utilisateurs et possiblement à leurs amis. Cependant, ce système semblait empiéter sur l’espace personnel des utilisateurs.
Bien qu’Advanced Symbolics ne surveille que des publications publiques pour détecter des tendances, cela pourrait changer considérablement la dynamique des réseaux sociaux. Globalement, ce système pourrait avoir un impact très positif sur les taux de suicide, ainsi que sur la capacité des communautés à anticiper et répondre aux groupes à risque. Néanmoins, si ce type de solution devient courant, les utilisateurs des réseaux sociaux risquent de ne plus partager aussi librement leurs expériences dans des publications publiques. Y a-t-il un moment où ce type de suivi ne sera plus efficace ?
Il est difficile de le dire, mais il est rassurant de constater que ce système semble respecter la vie privée des personnes, en se concentrant sur les tendances. Comme l’a souligné **Kenton White**, scientifique en chef chez Advanced Symbolics : “Ce serait un peu étrange de créer un système qui suit ce que tout le monde dit, puis que le gouvernement vous contacte en disant : ‘Bonjour, notre IA pense que vous pourriez vous suicider.’ “
Le but de l’entreprise est de cibler les zones à risque élevé de suicides multiples. Advanced Symbolics pense qu’ils pourraient fournir un avertissement entre deux et trois mois avant l’augmentation d’un taux de suicides. Le gouvernement pourrait alors agir en conséquence, en offrant des ressources et un soutien approprié.
FAQ
Quelles sont les données disponibles sur le suicide au Canada ?
Le Canada ne dispose pas d’un éventail complet de données. Actuellement, seule une partie des provinces a compilé des résultats sur les suicides, ce qui complique la mise en place de solutions efficaces.
Comment se déroule la surveillance des comportements en ligne ?
La surveillance se concentre uniquement sur des posts publics afin de garantir que la vie privée des utilisateurs soit respectée tout en analysant les tendances humaines sur les réseaux sociaux.
Quelles mesures de prévention sont mises en place ?
Outre cette initiative, le gouvernement canadien soutient divers programmes éducatifs et des services de santé mentale afin de prévenir le suicide et d’apporter du soutien aux personnes en détresse.
Quels défis éthiques posent ces technologies ?
L’utilisation généralisée de l’IA pour surveiller les comportements humains soulève des préoccupations sur la vie privée, le consentement et l’éventuel profilage des utilisateurs à risque.
Où puis-je obtenir de l’aide si je suis en détresse ?
Il est crucial de contacter un professionnel de santé mentale, un ami ou une ligne d’assistance locale si vous consultez ce document et ressentez des difficultés. Les ressources sont disponibles pour apporter du soutien et aider à traverser ces moments difficiles.