Crédit photo : Getty Images
L’État de Californie est en train de renforcer sa législation concernant l’utilisation des chatbots d’IA par les enfants. Alors que cette initiative gagnait du terrain, Sam Altman, le PDG d’OpenAI, a cherché à entrer en contact avec le gouverneur Gavin Newsom. Cette démarche met en avant les préoccupations croissantes liées à la sécurité des jeunes, devenues un enjeu majeur dans le développement rapide de l’industrie de l’intelligence artificielle.
Informations à retenir
Avant l’adoption de la loi sénatoriale 1119, Altman a tenté de s’entretenir avec Newsom. Cette tentative a été rapportée par le média Gizmodo, citant des sources de Politico. Une personne proche du dossier a précisé que le gouverneur n’a pas eu de conversation directe avec le patron d’OpenAI, mais que cette démarche intervenait au moment où la Californie envisageait une proposition législative significative focalisée sur la sécurité des enfants.
Cette mesure, défendue par le sénateur Steve Padilla ainsi que par les membres de l’Assemblée Buffy Wicks et Rebecca Bauer-Kahan, impose aux entreprises d’IA de vérifier l’âge des utilisateurs, d’offrir aux parents des moyens de contrôler l’accès de leurs enfants aux chatbots, ainsi que de se soumettre à des audits indépendants. De plus, il serait interdit aux entreprises de monétiser les données issues des échanges entre les enfants et les chatbots, notamment en les utilisant pour cibler les jeunes avec des publicités.
Toutefois, il est important de noter que les chatbots pourront toujours présenter des publicités jugées « appropriées en fonction de l’âge », tant que cela est clairement signalé. Selon Politico, des modifications ont été apportées à la proposition pour restreindre les conditions dans lesquelles les familles pourraient intenter des poursuites contre ces entreprises d’IA.
Contexte supplémentaire
Cette législation arrive à un moment où les chatbots sont devenus des outils courants. Les adolescents les utilisent de plus en plus pour les devoirs, le divertissement ou la compagnie, suscitant des préoccupations autour de la vie privée, de la santé mentale et de la capacité persuasive de ces systèmes, conçus pour capter l’attention des utilisateurs.
Historiquement, Newsom a été perçu comme un soutien à la Silicon Valley tout en restant méfiant face aux règles qui pourraient freiner l’innovation. Cependant, la pression autour de l’IA a considéré une forte montée en 2026, en particulier avec les critiques croissantes concernant l’absence de régulation dans le secteur technologique, ainsi que les rapports faisant un lien entre des interactions néfastes avec les chatbots et des jeunes ayant mis fin à leurs jours.
Actions en cours
OpenAI a fait savoir son soutien à cette législation californienne. Dans une déclaration faite avant le vote sur le projet de loi, la société déclarait que la S.B. 1119 est une extension des mesures de sécurité pour les jeunes qu’OpenAI préconisait déjà à travers ses produits et ses politiques mondiales. En particulier, l’entreprise a mis en avant ChatGPT pour les adolescents, lancé le 18 août, qui propose une version spécialement adaptée pour les utilisateurs âgés de 13 à 17 ans, avec des protections et des contrôles parentaux renforcés.
Si le gouverneur décide de signer cette loi, la Californie instaurera une responsabilité accrue grâce à des contrôles d’âge, des exigences d’audit et des restrictions plus sévères concernant l’utilisation des données des mineurs. Quel que soit le choix de Newsom entre l’adoption ou des modifications supplémentaires, la pression sur les entreprises s’accentue pour s’assurer que la sécurité des enfants soit intégrée dès le début dans les produits d’IA.
Comme le mentionne OpenAI, « Nous encourageons le gouverneur Newsom à ratifier ce projet de loi. »
FAQ
H4 Quels sont les objectifs de la loi sénatoriale 1119 ?
La S.B. 1119 vise principalement à protéger les enfants en limitant leur exposition à des contenus inappropriés et en garantissant que les entreprises d’IA prennent des mesures pour vérifier l’âge de leurs utilisateurs.
H4 Comment OpenAI contribue-t-il à cette législation ?
OpenAI soutient activement cette législation en affirmant que les principes de sécurité pour les jeunes qu’elle défend sont déjà mis en œuvre dans ses produits et ses pratiques.
H4 Quelles sont les implications pour les entreprises d’IA ?
Les entreprises devront non seulement instaurer des contrôles d’âge et se soumettre à des audits, mais elles seront également interdites de vendre ou d’utiliser les données des enfants pour la publicité.
H4 Pourquoi cette initiative législative a-t-elle été mise en place maintenant ?
L’initiative a été fortement motivée par une préoccupation croissante pour la sécurité des enfants en ligne, notamment face à l’augmentation des préoccupations concernant la santé mentale et la vie privée des mineurs.
H4 Quelles pourraient être les prochaines étapes suite à cette loi ?
Une fois adoptée, cette loi pourrait servir de modèle pour d’autres États, instaurant des normes similaires pour la sécurité des enfants sur les plateformes d’IA.
