Appel à la Vigilance sur la Technologie IA
Un groupe d’avocats généraux de tous les États-Unis, représentant tous les 50 États et quelques territoires, a récemment exprimé son inquiétude concernant la montée des contenus d’abus sexuels enfants générés par l’intelligence artificielle (IA). Dans une lettre adressée au Congrès, ils demandent des mesures immédiates pour contrer cette problématique préoccupante.
Une lettre bipartisane
Cette initiative a été rapportée pour la première fois par The Associated Press. La lettre, envoyée aux membres républicains et démocrates de la Chambre et du Sénat, demande la création d’une commission d’experts. Cette commission aurait pour mission d’étudier les moyens et méthodes que l’IA utilise pour exploiter les enfants, tout en proposant des solutions pour prévenir et traiter cette exploitation afin de protéger les enfants américains.
Des lois sur les contenus inadaptées
Les procureurs insistent sur la nécessité d’étendre les lois existantes sur les contenus d’abus sexuels enfantins. Celles-ci ne prennent pas encore en compte la création et la distribution de contenus d’abus synthétiques, une lacune qui est jugée urgente à combler. En effet, à quand remonte la dernière révision de ces lois face aux nouveaux défis posés par la technologie ?
Le mois de juin a vu le Washington Post rapporter des préoccupations croissantes concernant l’IA. Selon Rebecca Portnoff, directrice de la science des données au sein de l’organisation à but non lucratif Thorn, il y a eu une augmentation continue du nombre de contenus d’abus générés par l’IA depuis que les générateurs d’images ont été rendus disponibles au public l’automne dernier. Cette situation d’urgence se complique à mesure que ces générateurs deviennent plus accessibles, rendant plus difficile le contrôle de leur usage.
Les avancées des technologies de deepfake
Les procureurs soulignent également l’explosion de la technologie deepfake, qui peut être utilisée pour générer de faux contenus à partir de photos d’enfants abusés. Ils avertissent que cela pourrait permettre de créer des images falsifiées montrant des enfants dans des poses inappropriées ou même de victimiser des enfants non touchés auparavant en superposant leurs visages sur des images d’enfants ayant subi des abus.
Les risques associés au développement rapide de l’IA
Ils mettent en garde dans leur lettre que l’IA peut fusionner des données provenant de photos d’enfants, qu’ils soient abusés ou non, pour produire des images sexualisées réalistes d’enfants fictifs, mais qui ressemblent à de véritables enfants. Dans d’autres sections de leur communication, les avocats admettent que le Congrès examine des réglementations concernant l’IA au niveau fédéral, en mettant l’accent sur la sécurité nationale et l’éducation. Ils préviennent toutefois que, bien que ces efforts soient nécessaires, l’IA est d’ores et déjà utilisée pour nuire aux enfants, et que la sécurité des enfants ne devrait pas être négligée.
Dans leur lettre, ils soulignent : « Nous participons à une course contre la montre pour protéger les enfants de notre pays des dangers liés à l’IA. Les murs de la ville ont déjà été franchis. Il est crucial d’agir dès maintenant. »
Autres informations sur l’IA : Des groupes criminels utilisant l’IA pour ressusciter des enfants victimes d’homicide posent également un sérieux problème qui mérite d’être abordé.
FAQ
Qu’est-ce que le contenu d’abus sexuels enfantins (CSAM) ?
Le CSAM fait référence à tout matériel, généralement sous forme d’images ou de vidéos, mettant en scène des abus sexuels sur des enfants.
Comment l’IA est-elle utilisée pour créer ce contenu ?
L’IA peut être programmée pour générer des images d’enfants en exploitant des photographies existantes, permettant ainsi de produire des contenus inappropriés.
Quelles sont les conséquences de l’utilisation de technologies comme les deepfakes ?
Elles peuvent conduire à la création de contenus fictifs qui peuvent nuire aux enfants, entraîner des abus futurs ou perturber des enquêtes criminelles.
Quelles actions sont envisagées par le Congrès ?
Le Congrès discute d’un cadre législatif pour réglementer l’IA, avec un accent particulier sur la protection des enfants et la prévention des abus.
Pourquoi est-il urgent d’agir maintenant ?
L’utilisation croissante de l’IA dans la création de contenus d’abus met en danger plus d’enfants et nécessite des mesures légales pour garantir leur sécurité.
