Un éducateur de la région de Baltimore a été arrêté après avoir prétendument utilisé une technologie d’intelligence artificielle pour créer des faux enregistrements de son principal, où ce dernier tenait des propos haineux. Ce coup tordu s’inscrit dans le cadre d’une tentative de chantage qui a mal tourné.
Selon des rapports provenant du Baltimore Banner et d’autres médias, Dazhon Darien, ancien directeur sportif, a été inculpé après la diffusion d’enregistrements où le principal de Pikesville High School, Eric Eiswert, semblait faire des commentaires racistes et antisémites à l’égard des élèves et du personnel de l’école.
En janvier dernier, après que ces enregistrements, comprenant des injures raciales et des discours violents, ont été partagés sur un compte de mèmes populaire à Baltimore, Eiswert a été suspendu de ses fonctions. Au cours de l’enquête, la police et les responsables scolaires ont commencé à soupçonner Darien, qui avait été arrêté à l’aéroport international de Baltimore-Washington pour avoir tenté d’introduire une arme à feu dans un vol.
Bien que l’utilisation de l’IA pour créer ces faux enregistrements soit mise en cause, les accusations qui pèsent sur Darien ne concernent pas directement cette technologie. En effet, le Maryland, comme de nombreux autres États, n’a pas de lois en vigueur concernant les deepfakes non consensuels. Il est donc inculpé pour des faits tels que la perturbation des opérations scolaires, les représailles, le harcèlement et le vol.
Une manipulation risquée
Darien aurait élaboré et mis en œuvre son plan de chantage après qu’Eiswert l’ait interrogé sur des paiements qu’il aurait dirigés vers son colocataire en se faisant passer pour un travailleur scolaire. Dans ses tentatives de chantage, l’ex-professeur d’éducation physique n’a pas semblé prendre de précautions. La police a indiqué qu’il avait utilisé des ordinateurs scolaires pour rechercher des outils d’IA, et une adresse e-mail tierce, à partir de laquelle il avait envoyé les enregistrements, était liée à son propre numéro de téléphone.
Dans un des enregistrements générés par l’IA, la voix imitant le principal déclarait : « Des enfants noirs ingrats qui ne peuvent même pas sortir d’un sac en papier. » Dans un autre extrait, la voix supposée d’Eiswert affirmait : « Si je reçois une plainte de plus de la part d’un juif dans cette communauté, je vais rejoindre l’autre camp. »
Un enseignant a ensuite partagé ces enregistrements avec un élève qu’il savait que cela ébruiterait, ce qui était également un acte inapproprié peu importe le contenu. Les faux enregistrements ont ensuite viralisé, suscitant ainsi un revirement du public et des appels à la destitution d’Eiswert.
Dans des documents judiciaires consultés par le Banner, la police du comté de Baltimore a noté que les actions présumées de Darien avaient des répercussions profondes pour le principal et la communauté de Pikesville High. Les policiers ont indiqué : « Cela a non seulement conduit à la suspension temporaire de Eiswert, mais a également déclenché une vague de messages remplis de haine sur les réseaux sociaux et de nombreux appels à l’école. »
Bien qu’il ne soit pas le premier cas de ce genre, cette affaire illustre l’une des utilisations les plus dystopiques (et prévisibles) de l’IA générative, mais elle démontre aussi comment de telles situations doivent être gérées.
FAQ
Qu’est-ce qu’un deepfake ?
Un deepfake est une technique de synthèse d’images qui utilise l’intelligence artificielle pour créer des contenus falsifiés, comme des vidéos ou des enregistrements audio, en faisant en sorte qu’une personne semble dire ou faire quelque chose qu’elle n’a jamais fait.
Quelles sont les implications légales des deepfakes ?
Actuellement, il existe peu de lois protégeant contre l’utilisation de deepfakes, en particulier quand ils sont utilisés sans consentement. Cela soulève d’importantes questions éthiques et juridiques quant à la liberté d’expression et à la protection de la réputation.
Que risque Dazhon Darien ?
Il fait face à plusieurs accusations, notamment pour perturbation des opérations scolaires, harcèlement et vol. Les sanctions pourraient inclure une amende ou des peines de prison, en fonction des décisions judiciaires.
Pourquoi les deepfakes posent-ils problème dans le milieu éducatif ?
Les deepfakes peuvent nuire à la réputation d’individus, créer des tensions au sein des communautés scolaires et engendrer des réactions émotionnelles ou politiques vives, ce qui complique la gestion des environnements éducatifs.
Comment se prémunir contre les deepfakes ?
Les moyens de se protéger comprennent l’éducation sur les médias numériques, la vérification des sources d’information, et l’implémentation de technologies visant à détecter les contenus falsifiés.