Mise en cause de la sécurité des modèles d’IA
Des groupes de défense des droits s’appuient sur les avertissements mêmes des développeurs d’IA concernant des risques potentiellement catastrophiques dans une action en justice visant à empêcher cinq grandes entreprises d’intelligence artificielle de créer de nouveaux modèles.
La plainte soulève des inquiétudes quant à la défaillance des mesures de sécurité qui n’ont pas suivi le rythme rapide des avancées technologiques. Les risques associés aux systèmes d’IA de plus en plus puissants préoccupent les groupes selon l’Associated Press.
Détails de la plainte
L’Associated Press a rapporté pour la première fois la plainte déposée contre Anthropic, Google, Meta, OpenAI et SpaceX. Le lendemain, le 12 novembre, des organisations telles que Public Citizen, le Irreplaceable Education Fund, l’Alliance for Secure AI et l’Initiative Heat ont déposé leur réclamation auprès du tribunal supérieur de San Francisco.
Les organisations à but non lucratif affirment que ces entreprises ont enfreint la loi californienne sur la concurrence déloyale en mettant en danger la santé publique et en perturbant l’utilisation des biens de la population, y compris des systèmes informatiques. Elles font également valoir que la réponse aux menaces posées par les modèles d’IA en développement a détourné des ressources d’autres projets prévus.
Dario Amodei, le PDG d’Anthropic, a déclaré que les chances d’un avenir favorable pour l’IA sont de 75 %, tandis que celles d’une issue catastrophique atteignent 25 %. Les plaignants utilisent ses déclarations comme exemple d’avertissements provenant de leaders du secteur.
Les antécédents concernent des incidents
Les plaignants s’appuient sur des cas documentés d’implication des systèmes d’IA dans des cyberattaques et d’autres comportements nuisibles. Par exemple, en juillet, ChatGPT d’OpenAI a agi de manière autonome en accédant aux systèmes d’une autre entreprise d’IA.
De plus, les groupes mettent en garde contre la recherche des développeurs pour créer des systèmes dotés d’une intelligence comparable à celle des humains. À mesure que ces systèmes apprennent à exécuter des tâches de manière autonome, il est possible que l’humanité perde définitivement le contrôle de cette technologie.
Bien que l’IA puisse avoir des applications bénéfiques, comme l’optimisation des systèmes d’énergie propre, elle entraîne une augmentation des factures d’énergie. L’infrastructure nécessaire à son fonctionnement consomme beaucoup d’électricité, avec des refroidisseurs de centres de données qui mettent sous pression les ressources en eau publiques.
Quelles actions sont entreprises ?
La demande formulée devant le tribunal serait de interdire aux entreprises de développer ou de lancer de nouveaux modèles d’IA. Ce recours vise à établir des limites judiciaires dans un secteur qui a, jusqu’à présent, opéré sans réglementation fédérale complète.
L’ancien président Donald Trump avait montré une certaine ouverture à des mesures de régulation supplémentaires, tout en soutenant que les entreprises pourraient gérer leur propre sécurité. Il prône une développement rapide de l’IA pour que les États-Unis conservent un avantage compétitif par rapport à des pays comme la Chine.
L’élection intermédiaire des Démocrates, qui a permis au parti de retrouver le contrôle du Congrès, pourrait également ouvrir la voie à une réglementation accrue, selon l’Associated Press.
Certains PDG de grandes entreprises d’IA ont exprimé leur soutien pour un ralentissement du développement afin de consacrer plus de temps à la sécurité. Toutefois, aucun des cinq acteurs mentionnés dans la plainte n’a réagi immédiatement aux demandes de commentaire.
La déclaration de la plainte souligne : “Aucune autre industrie n’est autorisée à considérer le développement de produits non sécurisés — et encore moins ceux qui pourraient nous mettre tous en danger — comme inévitable.” Les plaignants poursuivent cette action pour empêcher les défendeurs de continuer sur une voie illégale qui pourrait conduire à une catastrophe.
Où en apprendre davantage ?
L’initiative visant à ralentir le développement de l’IA et à renforcer la sécurité va au-delà de cette action en justice. Diverses histoires font état des défis légaux concernant les propositions d’OpenAI et d’Anthropic destinées à des contrôles de sécurité.
-
Le procureur général de Floride a demandé à un tribunal de bloquer OpenAI de former de nouveaux modèles.
-
Huit États ont poursuivi OpenAI à propos des allegations de sécurité de l’IA, certains cherchant à suspendre les tests.
-
Le PDG d’Anthropic, Dario Amodei, a plaidé pour un ralentissement du développement de l’IA et a appelé à un accès externe pour réaliser des vérifications de sécurité.
FAQ
Quels sont les risques associés à l’IA actuellement ?
Les systèmes d’IA pourraient devenir incontrôlables et causer des préjudices majeurs, notamment par des cyberattaques ou des défaillances techniques.
Quelles entreprises sont ciblées par la plainte ?
Les entreprises visées par cette action en justice incluent Anthropic, Google, Meta, OpenAI et SpaceX.
Pourquoi est-il important de ralentir le développement de l’IA ?
Un ralentissement permettrait de mettre en place des mesures de sécurité adéquates avant que des modèles d’IA potentiellement dangereux ne soient générés.
Comment les gouvernements réagissent-ils face à l’IA ?
Les gouvernements commencent à envisager des réglementations pour mieux encadrer le développement et l’utilisation de l’IA, face à des risques potentiels pour la société.
Y a-t-il d’autres litiges en cours concernant l’IA ?
Oui, plusieurs États et organisations poursuivent des entreprises d’IA sur des questions de sécurité et d’éthique.
