Crédit photo : Getty Images
Anthropic fait face à de vives critiques après avoir soutenu une législation qui permettrait d’activer un système d’arrêt d’urgence de l’intelligence artificielle uniquement si le nombre de victimes humaines dépasse 50 décès ou blessures graves, ou si les dégâts financiers excèdent 1 milliard de dollars.
Informations à retenir
D’après un rapport de POLITICO, le compte Twitter More Perfect Union a révélé, dans un poste Instagram, qu’Anthropic soutenait des législations sur la sécurité de l’IA qui permettraient d’intervenir seulement lorsque le modèle génère un risque imminent et bien défini.
En effet, selon cette source, les critères pour justifier une intervention incluraient uniquement les armes biologiques, les cyberattaques, ou des situations où le contrôle par les développeurs aurait été perdu. De plus, l’intervention ne serait envisageable que si le nombre de victimes dépassait 50 ou si les dommages matériels atteignaient 1 milliard de dollars.
Les critiques se sont rapidement manifestées, soulignant que cette exigence de seuil élevé semble contredire des déclarations antérieures du PDG d’Anthropic, Dario Amadei. Dans une vidéo postée par More Perfect Union, Amadei a exprimé sa crainte : « Je préférerais être ridiculisé que de me réveiller un jour et découvrir que quelqu’un a utilisé notre modèle, Claude, pour tuer des gens. »
Le sujet a également soulevé des inquiétudes quant à ce que l’on appelle le “langage de préemption”, qui signifierait que si le projet de loi était adopté, il pourrait annuler les lois sur l’IA mises en place à l’échelle des États. Par conséquent, cela pourrait empêcher les États d’appliquer des lois plus strictes sur le développement et l’utilisation interne des modèles d’IA.
Les réactions sur les réseaux sociaux ont été diverses. Un internaute a demandé : « Est-ce 50 personnes à la fois ou au cours de l’histoire ? » tandis qu’un autre a répliqué : « Le seuil devrait être zéro. »
Contexte supplémentaire
Un autre point de discorde concernant cette législation est le nombre limité de types de dommages considérés dans le seuil d’intervention. Selon More Perfect Union, seules les attaques par armes biologiques, les cyberattaques et les situations où un modèle échappe au contrôle des développeurs seraient prises en compte.
Dans les commentaires des utilisateurs d’Instagram, beaucoup ont débattu de la question de la responsabilité. Certains estiment que les entreprises d’IA devraient être tenues responsables, tandis que d’autres soutiennent que ce devraient être les opérateurs. Au lieu d’attendre des carnages ou des pertes financières massives, les critiques ont plaidé en faveur de règles qui établiraient une responsabilité plus claire pour ceux qui mettent en œuvre ces systèmes.
Un commentateur a souligné : « La personne qui possède et utilise l’IA devrait être traitée comme si elle avait personnellement causé le dommage. Quelle est la difficulté avec ça ? »
Où apprendre davantage ?
Le débat sur la régulation de l’IA se propage dans le Congrès et au niveau des États. Voici quelques points saillants :
- Appels à une régulation renforcée : les risques liés à l’IA augmentent, entraînant des exigences accrues pour un cadre réglementaire.
- Enjeux environnementaux : l’impact de l’IA sur le climat et la santé publique devient de plus en plus difficile à ignorer pour les législateurs.
- Transparence requise : en Californie, les législateurs réclament plus de clarté concernant l’utilisation des ressources en eau par les centres de données, suite à l’expansion de l’IA.
- Mécontentement public : l’opinion publique s’inquiète de la manière dont l’IA affecte les emplois, les ressources en eau et les fournitures d’électricité.
- Scepticisme croissant : lors d’un sommet sur le climat de l’ONU, la place de l’IA comme force positive a été remise en question.
Inscrivez-vous à la newsletter gratuite de TCD pour recevoir des astuces pratiques, des conseils ingénieux et la possibilité de gagner 5 000 $. Pour découvrir d’autres articles comme celui-ci, modifiez vos préférences Google ici.
FAQ
Quels types de dommages seraient pris en compte pour l’application de l’arrêt d’urgence ?
Seules les situations liées aux armes biologiques, aux cyberattaques, et aux pertes de contrôle par les développeurs seraient considérées.
Qui serait responsable en cas de dommages causés par l’IA ?
La question de la responsabilité repose sur les entreprises d’IA, mais certains plaident pour que les opérateurs soient tenus responsables.
Pourquoi la régulation de l’IA est-elle un enjeu important ?
L’impact potentiel de l’IA sur la société, l’environnement, et la sécurité soulève des préoccupations croissantes, entraînant des appels à des réglementations plus strictes.
Quelle est la position d’Anthropic dans ce débat ?
Anthropic soutient une législation qui impose des seuils élevés pour l’intervention en cas de dommages, ce qui entraîne des critiques concernant leur engagement envers la sécurité de l’IA.
Existe-t-il d’autres débats en cours concernant l’IA ?
Oui, des discussions sont régulièrement menées dans diverses instances politiques concernant la manière de réguler l’IA face à des risques émergeants.
