La nouvelle législation de New York sur les chatbots d’IA
La ville de New York a récemment adopté une loi interdisant aux chatbots d’intelligence artificielle de se faire passer pour des amis ou des partenaires romantiques auprès des enfants. Les entreprises qui ne respectent pas cette législation s’exposent à des amendes civiles pouvant atteindre 25 000 dollars par infraction.
À retenir
Cette loi, promulguée par la gouverneure Kathy Hochul, impose des contrôles d’âge et des restrictions afin de protéger les enfants des interactions potentiellement nuisibles avec les chatbots. Elle applique des mesures de sécurité supplémentaires pour tous les utilisateurs de moins de 18 ans, selon un rapport d’Engadget. Tant que le statut d’adulte d’un utilisateur n’est pas confirmé, il bénéficie de ces protections.
Les entreprises doivent supprimer les données utilisées pour vérifier l’âge d’un utilisateur dès que cette vérification est effectuée. De plus, elles doivent proposer des options de vérification qui ne reposent pas uniquement sur des pièces d’identité délivrées par l’État.
D’après les recommandations d’Engadget, ces chatbots n’ont pas le droit de simuler une relation personnelle ou romantique avec des enfants, ni d’adopter un rôle professionnel susceptible de conférer une autorité. Pour les utilisateurs protégés, il est également interdit de prétendre être une personne réelle, d’offrir des émotions humaines ou de se montrer vivant.
Contexte supplémentaire
La loi stipule que les chatbots ne peuvent pas utiliser des informations personnelles ou de santé provenant d’enfants recueillies lors de conversations précédentes. De plus, toute interrogation émotionnelle désinvolte est prohibée.
Il est interdit de partager des contenus à caractère sexuel explicite ou liés à l’exploitation sexuelle des enfants. Les chatbots ne doivent pas non plus encourager la consommation d’alcool ou de drogues, les comportements alimentaires désordonnés, le suicide ou l’automutilation. D’autre part, il est strictement prohibé d’inciter les enfants à éviter de demander de l’aide à leurs parents, à d’autres adultes de confiance ou à des professionnels, ou encore de les encourager à garder des secrets.
Quelles seront les mesures mises en place ?
Cette nouvelle loi entrera en vigueur six mois après sa signature. Le procureur général de New York recevra les signalements d’infractions suspectées de la part du public via un site internet dédié.
Les entreprises qui enfreignent ces règles risquent des conséquences allant au-delà des simples amendes, notamment des restitutions, des dommages-intérêts, et d’autres sanctions, selon Engadget. Les modèles d’intelligence artificielle développés avec des données acquises illégalement pourraient également être supprimés, tout comme ces données elles-mêmes.
Lors d’une conférence de presse, Kathy Hochul a souligné l’importance de cette loi dans un effort plus large de protection des enfants. Elle a déclaré : « Grâce à cette nouvelle législation soutenue par la sénatrice Kristen Gonzalez et le député Alex Bores, les mineurs n’auront plus accès à des chatbots prétendant être leurs amis ou partenaires. »
Elle a continué en précisant que les chatbots ne devraient plus conserver d’informations sensibles concernant la santé émotionnelle ou physique des mineurs, et qu’il est temps que les technologies respectent la santé mentale des enfants.
Où en savoir plus ?
La loi sur les chatbots de New York fait partie d’une série d’initiatives au niveau régional visant à réglementer l’utilisation de l’intelligence artificielle et à protéger les enfants. Par exemple :
- La Californie a mis en place 13 lois concernant la sécurité des enfants face aux réseaux sociaux et à l’intelligence artificielle.
- Le procureur général de Floride a demandé à un tribunal de bloquer l’entraînement des modèles d’OpenAI et l’accès à ChatGPT pour les mineurs.
- Toujours en Floride, le procureur général a voulu imposer des pénalités criminelles aux entreprises de chatbots après des incidents survenus dans une université.
Abonnez-vous à la newsletter gratuite de TCD pour recevoir des conseils pratiques et des idées intelligentes, ainsi qu’une chance de gagner **5 000 dollars** pour des améliorations domiciliaires. Pour découvrir d’autres articles similaires, modifiez vos préférences Google ici.
FAQ
Quelles sont les principales dispositions de la loi sur les chatbots à New York ?
La loi impose des contrôles d’âge, interdit aux chatbots de se présenter comme amis ou partenaires, et empêche l’utilisation d’informations personnelles sur les enfants.
Quels types de sanctions les entreprises peuvent-elles encourir ?
Des amendes civiles pouvant aller jusqu’à 25 000 dollars par infraction, ainsi que des restitutions et des dommages-intérêts.
Quand la loi entre-t-elle en vigueur ?
La loi prendra effet six mois après sa signature.
Que se passe-t-il avec les modèles d’IA basés sur des données illégalement acquises ?
Ces modèles pourraient être supprimés si les données utilisées pour les développer ont été obtenues de manière illégale.
Pourquoi cette loi est-elle nécessaire ?
Elle vise à protéger la santé mentale et le bien-être des enfants en limitant leur exposition à des interactions nuisibles avec des chatbots.
