Un Rapport Accablant sur l’Utilisation D’Images d’Enfants par l’IA
Un rapport fourni par Human Rights Watch met en évidence une préoccupation alarmante : un ensemble de données utilisé pour former des outils d’intelligence artificielle (IA) contient des images et des informations sur de réels enfants. Cela signifie que des outils d’IA générative ont été alimentés avec des données appartenant à des enfants, souvent sans qu’ils en aient conscience ni qu’ils aient donné leur consentement.
Des Découvertes Déconcertantes
L’organisation qui supervise ces questions a trouvé plus de 170 photos d’enfants brésiliens, facilement traçables, dans le jeu de données LAION-5B. Cette base de données est constituée de contenus extraits du web par le biais d’un dépôt appelé Common Crawl. Ces informations ont été exploitées pour former des modèles d’IA, notamment le générateur d’images Stable Diffusion de Stabilité AI.
Informations Sensibles Étonnantes
Le rapport révèle que certaines photos extraites étaient accompagnées d’informations personnelles inquiétantes. Par exemple, une image d’une fillette de deux ans avec sa petite sœur contenait des détails comme leurs noms et l’emplacement exact de la naissance du bébé. Ces images couvrent aussi des périodes allant des années 1990 jusqu’à des publications récentes de 2023, ce qui montre l’étendue de la collecte de données.
Les Enjeux de la Vie Privée
Le fait que l’IA soit formée avec des images d’enfants pose de sérieuses questions de vie privée. De plus, ce type de données est utilisé pour créer des contenus choquants, comme des deepfakes non consensuels ou de fausses images d’abus sexuels sur enfants. Ce constat met en lumière un aspect troublant des processus d’apprentissage des IA et des conséquences que cela peut engendrer.
Hye Jung Han, chercheuse pour Human Rights Watch, a déclaré : « La vie privée des enfants est compromise lorsque leurs photos sont collectées et intégrées dans ces ensembles de données. » Elle a également exprimé des inquiétudes concernant les risques liés à toute image ou vidéo d’un enfant disponible en ligne, face aux manipulations potentielles par des individus malveillants.
Risques Systémiques
Il est intéressant de noter que beaucoup d’images trouvées proviennent de contenus personnels en ligne, comme des billets de blogs ou des vidéos YouTube ayant un nombre de vues très limité. Ces contenus n’étaient pas destinés à une large diffusion, ce qui rend la situation encore plus préoccupante. D’après Han, les familles s’attendaient à un certain degré de vie privée, car la plupart de ces images n’étaient pas accessibles par des recherches inversées d’images.
Mesures Prises par LAION
LAION, l’organisation à but non lucratif responsable de LAION-5B, a confirmé avoir retiré les photos signalées. Cependant, cela ne représente qu’une infime partie du problème, car l’organisation a analysé moins de 0,0001 % des 5,85 milliards d’images et légendes présentes dans l’ensemble de données. Par conséquent, le nombre de plus de 170 cas est probablement une sous-estimation significative des données personnelles d’enfants utilisées.
Les Conséquences de l’Utilisation des Données des Enfants
Il est sûr de dire que peu de personnes qui publient du contenu en ligne ont prévu que leurs images, réflexions et vidéos, surtout celles datant d’avant 2023, soient utilisées pour former des modèles d’IA voraces en données. Malheureusement, cela s’est produit souvent sans le consentement des personnes impliquées, et certaines utilisations de données concernant des mineurs soulèvent des questions éthiques majeures.
Han a conclu : « Les enfants ne devraient pas vivre dans la peur que leurs photos puissent être volées et utilisées contre eux. »
FAQ
Quelles mesures peuvent être prises pour protéger la vie privée des enfants en ligne ?
Les parents peuvent superviser les activités en ligne de leurs enfants et être attentifs aux informations qu’ils partagent sur les réseaux sociaux. Des outils de confidentialité peuvent également aider à restreindre l’accès à certaines données.
Comment les entreprises d’IA devraient-elles traiter les données d’enfants ?
Les entreprises devraient obtenir le consentement explicite des parents ou des tuteurs avant d’utiliser les données d’enfants et mettre en place des procédures strictes pour garantir la protection de la vie privée.
Quelles sont les implications légales de l’utilisation des images d’enfants par des outils d’IA ?
Les lois sur la protection des données, telles que le RGPD en Europe, imposent des restrictions sur la collecte et l’utilisation des données personnelles, y compris celles appartenant à des mineurs.
Quels recours existent pour les familles dont les données ont été utilisées sans consentement ?
Les familles peuvent contacter des organisations de défense des droits numériques ou envisager des actions en justice, selon les lois en vigueur dans leur pays.
Comment surveiller l’utilisation de ses propres images sur Internet ?
Des services de recherche d’images inversées peuvent aider les personnes à savoir où et comment leurs photos sont utilisées en ligne, ce qui peut aider à détecter d’éventuels abus.
