Crédit photo : Getty Images
Dario Amodei, le PDG d’Anthropic, a récemment fait parler de lui en affirmant que les risques liés à l’intelligence artificielle (IA) ne peuvent plus être ignorés par les décideurs politiques. Selon lui, les États-Unis devraient établir des règlements de sécurité contraignants pour les systèmes d’IA les plus avancés.
Quel est le contexte ?
Les paroles d’Amodei interviennent à une époque où les modèles d’IA gagnent en puissance et soulèvent de plus en plus de débats. Comme l’a rapporté Decrypt, le PDG d’Anthropic préconise la mise en place d’un cadre similaire à celui de la Federal Aviation Administration. Cela obligerait les nouveaux modèles d’IA à passer par des tests tiers obligatoires avant leur mise sur le marché. De plus, le gouvernement aurait le pouvoir d’interrompre les déploiements jugés dangereux.
Dans son dernier essai intitulé « Politique sur l’IA exponentielle », Amodei soutient que les exigences de transparence pour les entreprises d’IA ne suffisent plus. Il écrit :
“Je publie aujourd’hui un nouvel essai, la Politique sur l’IA exponentielle. L’IA progresse à une vitesse très élevée, beaucoup plus rapide que ne peut le suivre le processus politique. Cet essai expose l’état actuel de la technologie et les actions nécessaires pour combler le fossé.”
Pourquoi est-ce crucial ?
Amodei met en avant la nécessité pour les gouvernements de se préparer à des perturbations économiques que l’IA pourrait engendrer, notamment en ce qui concerne le chômage potentiel. Parallèlement, il insiste également sur la nécessité d’implémenter des mesures de sécurité pour les applications à haut risque, comme les cyberattaques, la surveillance de masse, et l’utilisation d’armes autonomes par les forces de l’ordre.
La proposition exige que les entreprises d’IA réalisaient des tests de sécurité rigoureux, signalent les incidents graves et prouvent que leurs systèmes répondent à des normes de sécurité strictes avant de pouvoir être proposés au public. Amodei aborde ce sujet avec force en déclarant que les modèles d’IA avancés, à l’instar des avions, devraient subir des tests techniques et un audit, et que leur lancement devrait être bloqué ou annulé si les normes de sécurité ne sont pas respectées.
Dans le cadre de cette initiative, Anthropic a décidé d’élargir l’accès à ses modèles plus récents, y compris une version publique de Claude Mythos 5, qui redirige automatiquement certaines demandes concernant la cybersécurité, la biologie, la chimie, et le développement de l’IA vers la version moins performante Claude Opus 4.8, afin de prévenir d’éventuels abus.
Questions fréquentes
Qu’est-ce que l’IA exponentielle ?
L’IA exponentielle fait référence au développement rapide et aux capacités grandissantes des technologies d’intelligence artificielle, qui dépassent souvent la vitesse à laquelle les réglementations et les politiques peuvent s’adapter.
Quels types de modèles d’IA sont concernés par la proposition de réglementation ?
Les modèles d’IA avancés, tels que ceux capables d’effectuer des cyberattaques ou d’autres fonctions critiques, sont ciblés par la proposition de Dario Amodei pour garantir une sécurité accrue.
Comment cela impacte-t-il les entreprises d’IA ?
Les entreprises d’IA devront désormais se soumettre à des réglementations strictes, y compris des tests de sécurité rigoureux avant le lancement de leurs produits, ce qui pourrait influencer leurs processus de développement et de mise sur le marché.
Quelles seront les conséquences d’une non-conformité ?
Si une entreprise ne respecte pas les nouvelles réglementations, elle pourrait voir ses produits bloqués ou retirés du marché, et les incidents de sécurité devraient être rapportés aux autorités compétentes.
Pourquoi est-il important de réguler l’IA maintenant ?
Réguler l’IA est crucial car elle pourrait avoir un impact profond sur l’économie, la société et la sécurité, notamment à travers les risques de pertes d’emplois et les utilisations malveillantes de la technologie.
