Arrestation liée à l’intelligence artificielle
En Chine, un vent de répression semble se lever autour de l’utilisation de l’intelligence artificielle. Un homme a été emprisonné pour avoir utilisé ChatGPT afin de créer des fausses informations, ce qui marque un tournant dans la lutte contre la désinformation provoquée par les technologies modernes.
Les faits
Selon un rapport du South China Morning Post, cet individu, dont le nom de famille n’a pas été révélé, a été arrêté dans la province du Gansu. Les autorités locales affirment qu’il a « utilisé la technologie d’intelligence artificielle pour produire des informations fausses et trompeuses ». L’accusation concerne des nouvelles prétendument erronées sur un accident de train survenu fin avril, rapportant à tort que neuf personnes avaient trouvé la mort.
Des versions de cette nouvelle auraient été publiées sur Baijihao, un réseau social d’information géré par Baidu, le moteur de recherche chinois. Cet incident représente la première arrestation rendue publique sous la nouvelle réglementation sur les deepfakes en Chine, qui interdit l’usage de logiciels de synthèse profonde sans étiquetage visible.
Cadre légal
La réglementation, connue sous le nom de « Provisions administratives sur la synthèse profonde pour les services d’information internet », est entrée en vigueur en janvier. Elle impose que tout contenu créé par IA soit clairement étiqueté et que sa source originale soit mentionnée. En outre, ceux qui modifient la voix ou l’image d’autrui à l’aide de logiciels génératifs doivent obtenir le consentement des personnes concernées.
Ce nouveau cadre législatif d’une ampleur considérable comprend une liste d’environ 1 300 sites d’information approuvés par le gouvernement, autorisés à utiliser l’IA pour créer du contenu. Les règles stipulent également que tout contenu généré doit rester en accord avec la « bonne orientation politique et l’orientation des opinions publiques », selon les termes spécifiques de la loi.
Conséquences de cette arrestation
Il a été signalé que ce suspect avait accès à ChatGPT via un VPN, bien que ce service ne soit pas disponible en Chine. Les autorités l’ont accusé de « provocation de troubles », un terme large qui peut entraîner des peines allant de cinq à dix ans de prison. Face à la facilité croissante de création de contenu trompeur grâce à l’IA, des réglementations sont jugées indispensables. Bien que la méthode adoptée par la Chine puisse sembler sévère, elle soulève des questions sur l’opportunité de telles règles à l’échelle mondiale.
Ce qu’il faut retenir
Cette affaire soulève des préoccupations sur la capacité des gouvernements à contrôler l’utilisation et la diffusion de l’information à une époque où l’IA peut produire des contenus de plus en plus réalistes et difficilement discernables. Les implications de cette réglementation pourraient influencer les débats autour de la liberté d’expression et des droits numériques dans le monde.
FAQ
Quelle est la réaction internationale concernant cette arrestation ?
La communauté internationale suit de près la situation, s’interrogeant sur l’impact de ces réglementations sur la liberté d’expression et l’innovation dans le domaine technologique.
Quelles sont les caractéristiques essentielles des nouvelles réglementations chinoises ?
Ces regulations exigent que tout contenu généré par IA soit étiqueté, et que les utilisateurs informent et obtiennent le consentement des personnes avant toute modification de leur image ou voix.
Comment d’autres pays abordent-ils la question des deepfakes ?
Différents pays adoptent des approches variées, certains favorisant des lois strictes tandis que d’autres privilégient l’autoregulation ou des campagnes de sensibilisation sur le risque des fausses informations.
Quelles sont les potentiels effets sur les plateformes de réseaux sociaux ?
Ces réglementations pourraient encourager une surveillance accrue des contenus partagés et un contrôle plus rigoureux sur les publications, ce qui pourrait affecter la dynamique de l’information en ligne.
