Comprendre le phénomène de la manipulation en ligne
Lorsqu’un prédateur sexuel repère une éventuelle victime sur Internet, il ne cherche pas toujours à initier une relation sexuelle immédiatement. Nombreux sont ceux qui préfèrent d’abord établir un lien de confiance à travers un processus connu sous le nom de « grooming ». Ce terme désigne la manière dont ces individus se rapprochent des jeunes pour mieux exploiter cette confiance par la suite.
Une innovation cruciale dans la lutte contre l’exploitation des enfants
Pour lutter contre ce fléau, Microsoft a mis au point un outil capable d’analyser les discussions textuelles afin de détecter des signes de grooming. Cette initiative vise à s’attaquer à un problème majeur qui concerne l’exploitation sexuelle des enfants en ligne.
Le développement de l’outil
Nommé Project Artemis, cet outil fait partie d’un projet collaboratif lancé en novembre 2018. Selon un récent article de blog, il repose sur une technologie brevetée que Microsoft avait introduite pour prévenir le grooming sur sa plateforme de jeux Xbox plusieurs années auparavant.
Fonctionnement de l’outil
Cet outil analyse les échanges par texte et attribue une note qui évalue la probabilité que du grooming ait lieu. Les entreprises peuvent alors définir les critères qui déclenchent une alerte. Par exemple, une note de 7 ou plus sur 10 pourrait inciter à une surveillance accrue.
Les conversations qui reçoivent un score élevé sont examinées par un modérateur humain, qui décide si cela justifie de contacter les autorités compétentes.
Accès gratuit pour les entreprises
Dans son article, Microsoft indique que cet outil sera mis à la disposition, sans frais, de Thorn, une organisation à but non lucratif qui se consacre à la lutte contre l’abus sexuel des enfants. Ce service sera accessible aux entreprises en ligne qui proposent une fonction de chat. Toutefois, les critères de qualification ne sont pas clairement définis. Ces entreprises intéressées peuvent contacter Thorn à l’adresse antigrooming@thorn.org pour plus d’informations.
Un espoir pour les victimes potentielles
Si même une seule entreprise adopte cet outil et qu’il s’avère efficace, le Project Artemis pourrait potentiellement empêcher de nombreux enfants de devenir victimes d’exploitation sexuelle. Cela rendrait tout le travail de développement de cet outil, qui a duré 14 mois, très précieux.
FAQ
Qu’est-ce que le grooming ?
Le grooming désigne le processus par lequel un prédateur crée un lien de confiance avec un enfant, souvent par le biais d’Internet, avant de passer à des abus.
Pourquoi Microsoft met-il cet outil à disposition gratuitement ?
Microsoft souhaite contribuer à la lutte contre l’exploitation sexuelle des enfants et espère que cet outil pourra être efficace si utilisé par des entreprises en ligne.
Comment une entreprise peut-elle se qualifier pour utiliser cet outil ?
Les entreprises intéressées doivent contacter Thorn pour obtenir des informations spécifiques sur les critères d’éligibilité.
Quel type de technologie est utilisée dans le projet Artemis ?
L’outil s’appuie sur des technologies qui ont été développées et testées par Microsoft pour détecter le grooming, notamment sur sa plateforme Xbox.
Quel impact pourrait avoir cet outil sur la sécurité des enfants en ligne ?
Si cet outil est utilisé efficacement, il pourrait considérablement réduire le risque d’abus sexuels envers les enfants sur Internet en permettant une intervention précoce.
