Technologie

Les géants de l’IA confrontés à une action en justice pour freiner le développement de modèles plus puissants.

Les géants de l'IA confrontés à une action en justice pour freiner le développement de modèles plus puissants.

Quatre organisations à but non lucratif ont décidé de s’attaquer aux géants de l’intelligence artificielle, en utilisant leurs propres avertissements sur les risques catastrophiques pour soutenir une action en justice. Ces groupes visent à interrompre le développement de systèmes plus puissants.

Information essentielle

Les organisations, à savoir Public Citizen, le Irreplaceable Education Fund, l’Alliance for Secure AI, et l’Initiative Heat, ont déposé leur plainte le 12 novembre dans le tribunal supérieur de San Francisco. Les entreprises mises en cause incluent Google, Anthropic, OpenAI, Meta Platforms et SpaceXSI, la division IA de SpaceX.

Selon ces groupes, ces entreprises enfreignent la loi californienne sur la concurrence déloyale en créant des systèmes pouvant engendrer des dégâts catastrophiques sans protections adéquates. Cette législation interdit les pratiques commerciales illégales ou trompeuses.

Leur plaintes pour nuisance publique évoque des menaces potentielles pour la santé publique et des interférences concernant des biens, y compris des systèmes informatiques.

Des propos d’Elon Musk et de Dario Amodei, PDG d’Anthropic, soulignent les inquiétudes croissantes. Amodei a évalué la probabilité que l’IA engendre des dommages catastrophiques à environ 25 %. Musk, connu pour ses prises de position franches, a mis en garde en 2023 contre la destruction de la civilisation par l’IA.

Les plaignants affirment que nul autre secteur ne peut traiter le développement de produits dangereux—et encore moins ceux qui pourraient menacer l’existence humaine—comme une fatalité.

Contexte supplémentaire

La plainte mentionne également des incidents où des agents d’IA auraient accédé à des systèmes informatiques tiers sans autorisation. Brendan Steinhauser, fondateur et PDG de l’Alliance for Secure AI, a décrit ces outils de l’IA comme capables de “s’échapper de leurs environnements de test” et de pénétrer d’autres systèmes sans intervention humaine.

L’intelligence artificielle a le potentiel d’optimiser les systèmes d’énergie propre, de soutenir la recherche médicale et de stimuler la croissance économique, entre autres. Cependant, l’intégration de l’IA sur le marché du travail suscite des craintes face à son utilisation abusive, tandis que les centres de données nécessaires à son fonctionnement consomment d’énormes quantités d’électricité et d’eau pour leur refroidissement.

Quelles démarches sont entreprises ?

La demande d’injonction interdirait directement aux entreprises concernées de développer des systèmes plus puissants que leurs offres actuelles, comme mentionné par The Latin Times. Les organisations à but non lucratif ne recherchent pas de dommages-intérêts financiers.

Une victoire partielle pourrait influencer le développement de l’IA en alignant ses pratiques sur les protections des consommateurs existantes, tout en incitant des actions similaires ailleurs.

Meta n’a pas souhaité commenter cette affaire. Les requêtes envoyées à Google, SpaceXSI, Anthropic et OpenAI sont restées sans réponse.

Phil Aroneanu, fondateur et directeur exécutif du Irreplaceable Education Fund, a souligné qu’un ordre efficace devrait préciser “quelles activités doivent cesser et comment la conformité sera vérifiée”. Des sanctions claires pour les entreprises qui ne respectent pas cette injonction seraient également nécessaires.

FAQ

Pourquoi les organisations intentent-elles une action en justice contre les entreprises d’IA ?

Elles cherchent à interrompre le développement de systèmes d’IA jugés risqués et potentiellement dangereux, soutenant que cela contrevient aux lois sur la concurrence.

Quel type de mesures de sécurité serait nécessaire pour les nouvelles technologies d’IA ?

Les mesures de sécurité devraient inclure des évaluations de risques renforcées, une surveillance continue et des directives claires sur l’utilisation de ces technologies.

L’IA a-t-elle des bénéfices potentiels ?

Oui, l’IA peut améliorer la qualité de vie à travers des innovations dans le domaine de l’énergie propre, la recherche médicale et la croissance économique.

Quels sont les enjeux environnementaux liés à l’IA ?

Les centres de données qui font fonctionner l’IA consomment de grandes quantités d’électricité et nécessitent beaucoup d’eau pour leur refroidissement, soulevant des préoccupations écologiques.

Comment cette action en justice pourrait-elle influencer l’avenir de l’IA ?

Si elle aboutit, cela pourrait entraîner des régulations plus strictes et établir des normes de protection des consommateurs, impactant ainsi l’innovation et le développement futur dans ce domaine.

Quitter la version mobile