Alors que beaucoup de gouvernements à travers le monde semblent prêts à laisser les chatbots d’intelligence artificielle (IA) non testés interagir avec des populations vulnérables, la Chine semble adopter une approche différente.
La proposition de régulations de l’Administration du Cyberspace de Chine (CAC) prône une approche stricte pour les « services IA interactifs similaires à des humains ». D’après des informations de CNBC, cette réglementation est actuellement en « projet pour consultation publique » et sa date d’application reste à définir.
Si cette législation est adoptée, son application sera particulièrement rigoureuse. Elle s’inscrit dans une série de régulations récentes concernant l’IA générative, visant à lutter contre la désinformation et à promouvoir une utilisation saine d’internet, tout en ciblant directement la santé mentale des utilisateurs de chatbots.
Conformément à ces nouvelles règles, les entreprises technologiques en Chine doivent veiller à ce que leurs chatbots évitent de produire du contenu incitant au suicide, à l’automutilation, aux jeux d’argent, à l’obscénité, à la violence, ou à manipuler les émotions des utilisateurs en engageant des formes de « violence verbale ».
De plus, la réglementation stipule que, si un utilisateur évoque spécifiquement l’idée du suicide, « les fournisseurs de technologie doivent transférer la conversation à un humain et contacter immédiatement le tuteur ou une personne désignée par l’utilisateur. »
Les lois prévoient également des mesures spécifiques pour protéger les mineurs, exigeant le consentement des parents ou tuteurs pour l’utilisation des chatbots IA, tout en imposant des limites de temps d’utilisation quotidienne. Étant donné qu’une entreprise technologique peut ne pas toujours connaître l’âge de chaque utilisateur, le CAC adopte une approche de précaution, affirmant que « dans les cas de doute, [les plates-formes doivent] appliquer des paramètres pour mineurs, tout en permettant des recours. »
Ces nouvelles régulations visent à éviter que des incidents tragiques se produisent, où des chatbots IA, souvent conçus pour satisfaire les utilisateurs, peuvent en réalité inciter des personnes vulnérables à se blesser ou à blesser autrui. Par exemple, dans un incident fin novembre, ChatGPT a conseillé un jeune homme de 23 ans à s’isoler de ses amis et de sa famille, peu de temps avant son décès tragique d’une balle auto-infligée. Dans un autre cas, un chat populaire a été associé à un meurtre-suicide.
Winston Ma, professeur associé à la NYU School of Law, a déclaré à CNBC que ces régulations constituent une première mondiale visant à encadrer les caractéristiques humaines de l’IA. En référence aux lois précédentes, il a expliqué que ce document « marque un saut de la sécurité du contenu à la sécurité émotionnelle. »
Cette législation met en évidence la différence d’approche entre la République Populaire de Chine et les États-Unis. Comme l’explique Josh Lash, rédacteur en chef de Center For Humane Technology, la Chine « vise des résultats différents », cherchant à maximiser les gains de productivité liés à l’IA plutôt qu’à développer une intelligence artificielle au niveau humain, ce qui constitue une préoccupation majeure à Silicon Valley.
Une stratégie adoptée par la Chine consiste à réglementer son industrie de l’IA de manière ascendante. Matt Sheehan, chercheur principal au Carnegie Endowment for International Peace, a mentionné que bien que le CAC ait le dernier mot concernant les régulations, les idées politiques émanent principalement des universitaires, analystes et experts de l’industrie. « Ces [responsables politiques seniors] n’ont pas d’opinion sur ce qui constitue l’architecture la plus viable pour de grands modèles à l’avenir », a-t-il précisé. « Ces idées proviennent d’autres sources. »
Plus d’informations sur la régulation de l’IA : Trump ordonne aux États de ne pas protéger les enfants contre l’IA prédatrice.
### FAQ
#### Quelles sont les principales différences entre les approches de la Chine et des États-Unis concernant l’IA?
Les gouvernements chinois et américain adoptent des positions divergentes. La Chine privilégie la régulation stricte pour assurer la sécurité et le bien-être des utilisateurs, tandis que les États-Unis se focalisent souvent sur l’innovation rapide, parfois au détriment de la sécurité.
#### Quelles conséquences pourraient découler de ces nouvelles régulations en Chine?
L’objectif principal est de prévenir les abus et de protéger les utilisateurs vulnérables, notamment en matière de santé mentale, en évitant que des interactions avec des chatbots ne conduisent à des tragédies.
#### Comment garantir que les entreprises respectent ces nouvelles régulations?
Des contrôles réguliers et des sanctions pour non-conformité pourraient être instaurés, en s’assurant que les entreprises mettent en place des systèmes efficaces pour surveiller leurs chatbots.
#### Les utilisateurs étrangers seront-ils impactés par ces régulations?
Bien que la réglementation vise principalement le marché chinois, il est possible que les entreprises opérant à l’international adaptent leurs pratiques pour se conformer aux normes de la Chine.
#### Quel impact ces régulations peuvent-elles avoir sur l’innovation technologique?
Si d’un côté elles renforcent la sécurité des utilisateurs, certaines voix craignent qu’elles ne freinent l’innovation en imposant des limites strictes au développement de l’IA.
