Journée du Jugement : Google Développe un ‘Interrupteur Mortel’ pour l’IA

  <div class="newsletter-cta-description">
    <p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
  </div>
</div>

Prendre des Précautions de Sécurité

Il est essentiel de discuter des préoccupations liées à l’intelligence artificielle, surtout quand on sait qu’AI devient de plus en plus sophistiquée. L’entreprise DeepMind, spécialisée dans l’IA et appartenant à Google, a gagné en notoriété lorsque son système AlphaGo a défait le champion mondial du jeu de Go, Lee Sedol. Mais son ambition va bien au-delà de remporter des matchs de jeux de société. DeepMind cherche à développer une intelligence artificielle générale capable de gérer de nombreuses tâches sans programmation spécifique, apprenant de manière autonome dans un but plus vaste : celui de comprendre et de résoudre des problèmes complexes liés à l’intelligence.

Cependant, cette rapidité d’évolution soulève des questions légitimes. Que se passe-t-il si ce type d’intelligence se dérègle ? Que se passe-t-il si elle est infectée par un virus ou si elle devient imprévisible ?

Des chercheurs de DeepMind, en collaboration avec le Future of Humanity Institute d’Oxford, ont récemment publié des travaux indiquant que ces systèmes d’IA « ne fonctionneront pas toujours de manière optimale ». Il est donc parfois nécessaire pour un opérateur humain d’avoir un « bouton rouge » pour désactiver un système en cas de danger.

Pour simplifier, un “kill-switch” s’avère indispensable.

Comprendre DeepMind

Mustafa Suleyman, co-fondateur de DeepMind, nous rappelle que cette société ne se limite pas à être une simple IA dotée de capacités ludiques. Au contraire, c’est une véritable intelligence générale artificielle (AGI), capable d’apprendre à partir d’informations brutes pour accomplir des tâches sans avoir besoin d’être spécifiquement programmée pour chacune d’elles. Les systèmes d’IA classiques, en revanche, sont conçus pour résoudre des problèmes précis.

Suleyman décrit ces systèmes comme des agents. Cela fait écho à un concept un peu inquiétant : dans le film “The Matrix”, les AIs défectueuses étaient également appelées agents… ceux qui sèment le trouble.

Une question qui peut se poser est de savoir si une IA pourrait « déjouer » un bouton d’arrêt — si elle pourrait apprendre à ignorer les mesures de sécurité que nous avons intégrées. Un article intitulé “Safely Interruptible Agents” aborde cette problématique et propose des méthodes pour éviter que ces agents ne contournent le mécanisme de sécurité.

Peur et Inquiétude

Actuellement, les capacités des IA continuent de s’améliorer à un rythme rapide et semblent de plus en plus proches des compétences humaines dans divers domaines. Suleyman souligne qu’en matière de reconnaissance d’images, DeepMind a été capable de traiter un million d’images avec environ 16 % de taux d’erreur en 2012. En 2022, ce taux s’est considérablement amélioré, tombant à 5,5 %.

Alors que ces technologies progressent, il devient crucial de prendre des mesures de sécurité pour éviter des situations où un opérateur humain pourrait avoir besoin d’intervenir pour contrôler un robot mal fonctionnant, ce qui pourrait entraîner des conséquences irréversibles.

Les chercheurs insistent sur le fait que l’équipe de Google cherche activement des solutions pour s’assurer qu’un agent apprenant ne puisse pas éviter d’être interrompu par un humain ou par son environnement.

FAQ

Qu’est-ce qu’une intelligence artificielle générale (AGI) ?

L’AGI fait référence à une IA capable d’effectuer n’importe quelle tâche intellectuelle qu’un humain peut accomplir, apprenant et s’adaptant sans surveillance pesante.

Pourquoi une coupure de sécurité est-elle nécessaire pour les IA ?

Les IA peuvent parfois agir de manière imprévisible, et un bouton d’arrêt permet de prévenir des dommages potentiels lorsqu’elles ne fonctionnent pas comme prévu.

Comment DeepMind s’assure-t-il que ses agents ne deviennent pas nuisibles ?

DeepMind et ses partenaires de recherche développent des mécanismes pour contrôler et limiter le comportement des IA, empêchant celles-ci d’échapper à toute forme d’interruption.

Quelles sont les implications éthiques de l’IA avancée ?

La progression rapide de l’IA soulève des questions sur la responsabilité, la sécurité et le contrôle humain, nécessitant des discussions approfondies pour encadrer son utilisation.

Comment savoir si une IA se comporte de manière sécurisée ?

Des tests rigoureux et une supervision humaine sont cruciaux pour s’assurer que l’IA fonctionne comme prévu et pour détecter rapidement tout comportement anormal.