Retour sur la réglementation de l’intelligence artificielle en Californie
La Californie se lance dans une nouvelle initiative concernant l’intelligence artificielle, en particulier en ce qui concerne l’idée controversée d’un “kill switch”. Ce mécanisme serait conçu pour désactiver des systèmes potentiellement dangereux s’ils échappent à tout contrôle.
Une initiative inattendue
Dans un revirement surprenant de sa position antérieure, le gouverneur Gavin Newsom a décidé de mettre sur pied un panel d’experts. Ce groupe est chargé de formuler des recommandations pour des règles de sécurité concernant l’IA, y compris la possibilité d’implémenter un “kill switch” pour les modèles avancés d’intelligence artificielle.
Selon un rapport du Los Angeles Times, cette décision implique de consulter « un groupe d’experts de renommée mondiale » alors que l’État envisage des lois sur la sécurité de l’IA plus stricte. Parmi les propositions à envisager figurent la planification de la sécurité de l’IA par des tiers et la création d’outils permettant aux entreprises de désactiver des systèmes en cas d’urgence.
Contexte historique
Une proposition similaire était parvenue au bureau de Newsom en 2024, sous la forme d’un projet de loi émanant de Scott Wiener, un sénateur de l’État représentant San Francisco. Ce projet avait pour but d’obliger les entreprises technologiques à pouvoir désactiver les modèles d’IA qu’elles contrôlent en cas de problématiques. Bien qu’il ait initialement passé les étapes législatives, Newsom l’a finalement voté contre, arguant qu’une telle loi risquait de bloquer l’innovation dans le domaine de l’IA. Il avait également souligné que des modèles d’IA plus petits, exclus de la proposition, pouvaient également représenter un danger.
Croissance des préoccupations
Depuis ce temps, les inquiétudes concernant l’IA ont connu une forte augmentation tant parmi les experts que le grand public. De nombreux acteurs de l’industrie de l’IA ont signalé que les systèmes en constante amélioration pourraient causer des dommages catastrophiques.
Jacob Coxon, ancien chercheur chez Anthropic, a décidé de quitter l’entreprise en raison de préoccupations liées à la sécurité de l’IA. Dans un message sur les réseaux sociaux, il a averti que « les personnes développant l’IA croient sincèrement qu’elle pourrait nous anéantir d’ici la fin de la décennie ». Étant donné que plusieurs grandes entreprises d’IA sont basées en Californie, la mise en place de règles dans cet État aurait un impact sur l’industrie technologique à l’échelle mondiale.
Chris Cabaldon, sénateur de l’État et président du comité sur les questions technologiques, a indiqué qu’il prévoyait de tenir des auditions sur l’IA. Bien que ces auditions aient été planifiées avant les récents avertissements concernant les dangers de l’IA, les préoccupations soulevées seront un point central des discussions.
État actuel des mesures
Face à une innovation technologique rapide, les gouvernements peinent souvent à suivre le rythme de l’évolution des produits. La création d’un cadre soutenu par l’État pourrait aider les législateurs à établir des règles juridiquement contraignantes, au lieu de se fier uniquement aux assurances des entreprises et à l’autorégulation de l’industrie.
Avec une tendance vers des exigences concrètes, les gouvernements se dirigent vers des audits, des plans d’urgence et des mécanismes de désactivation pour limiter les risques de dommages causés par des outils d’IA puissants. Chris Cabaldon a d’ailleurs noté avec ironie que nous réglementons davantage notre coiffeur ou notre sandwicherie que des entreprises qui pourraient mettre en danger l’humanité.
Vers de nouvelles réglementations
L’initiative de la Californie s’inscrit dans une dynamique plus large visant à établir des règles plus strictes autour de l’IA. Plusieurs acteurs du secteur et responsables politiques soulignent l’urgence d’agir face aux dangers croissants.
- Le PDG d’Anthropic a exprimé la besoin de règles obligatoires aux États-Unis alors que les risques liés à l’IA augmentent rapidement.
- Des analystes ont averti qu’une augmentation significative des capacités de l’IA pourrait entraîner une pression réglementaire accrue.
- À Washington, l’ancien président Trump a signé un ordre volontaire de sécurité lié à l’IA, après un recul des examens fédéraux.
- En Congrès, malgré des avertissements concernant les dangers, les législateurs ont rejeté des gardes-fous fédéraux sur l’IA.
FAQ
Quels sont les dangers associés à l’IA ?
Les dangers liés à l’IA incluent des systèmes autonomes non contrôlés qui pourraient causer des dommages physiques, des atteintes à la vie privée et même des menaces pour la sécurité nationale.
Pourquoi avoir besoin d’un kill switch ?
Un kill switch permettrait d’interrompre instantanément le fonctionnement d’un système d’IA en cas de défaillance, minimisant ainsi les risques de conséquences nuisibles sur les utilisateurs ou la société.
Quel sera l’impact de ces règles sur l’innovation ?
Un équilibre entre la réglementation et l’innovation est crucial. Trop de restrictions pourraient dissuader la recherche et le développement, tandis qu’un encadrement approprié peut garantir la sécurité tout en favorisant l’innovation.
Comment les autres pays réagissent-ils à ces préoccupations concernant l’IA ?
De nombreux pays examinent actuellement leurs cadres réglementaires concernant l’intelligence artificielle, avec des discussions sur la mise en œuvre de lois similaires à celles envisagées en Californie.
Comment le public peut-il s’impliquer dans ces discussions sur l’IA ?
Le public peut participer à des forums, exprimer ses préoccupations par le biais de pétitions, et suivre de près le développement législatif concernant l’IA dans leur région.
