Appel à la destruction des centres de données pour freiner l’essor de l’IA.

    <div class="newsletter-cta-description">
        <p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
    </div>

</div>

Un des plus fervents critiques de l’intelligence artificielle dans le monde appelle non seulement à suspendre les avancées en IA, mais prône une cessation stricte de son développement avant qu’il ne nous mène à notre perte.

Dans un article d’opinion pour le magazine Time, le chercheur en apprentissage automatique Eliezer Yudkowsky, qui depuis plus de vingt ans avertit sur les dangers d’un avenir dystopique une fois que l’intelligence artificielle générale (AGI) sera atteinte, tire à nouveau la sonnette d’alarme.

Yudkowsky exprime son admiration pour les signataires de la récente lettre ouverte du Future of Life Institute, qui inclut des personnalités comme Elon Musk, le PDG de SpaceX, Steve Wozniak, co-fondateur d’Apple, et Andrew Yang, ancien candidat à la présidentielle. Malgré cela, il avoue ne pas avoir signé cette lettre car il considère qu’elle n’est pas assez radicale.

Il déclare : « Je n’ai pas signé, car je pense que la lettre minimise la gravité de la situation et demande trop peu pour y remédier. »

Yudkowsky, en tant que chercheur sur l’AGI, se montre plus inquiet non pas tant pour une IA “compétitive avec l’humain” mais pour « ce qui se passe après » l’avoir développée.

Il ajoute que les seuils critiques peuvent ne pas être évidents et qu’il est difficile de prévoir ce qui pourrait survenir. Il insinue qu’un laboratoire de recherche pourrait franchir des limites cruciales sans s’en rendre compte.

Lorsqu’il a été qualifié de “doomer” par Bloomberg, Yudkowsky a répliqué qu’il n’était pas le seul parmi les experts préoccupés par les risques d’une AI “super-intelligente”. Selon lui, la conséquence la plus probable du développement d’une telle IA, dans le climat actuel, est que l’humanité toute entière court un grand danger.

Il a des éléments probants pour étayer ses affirmations, citant une enquête d’experts où de nombreux répondants expriment des inquiétudes profondes concernant les “risques existentiels” posés par l’IA.

Ces risques ne sont pas de simples hypothèses lointaines. Yudkowsky note : « Ce n’est pas qu’on ne puisse pas, en théorie, survivre à la création d’une IA bien plus intelligente que nous, mais cela nécessiterait une précision, une préparation, ainsi que de nouvelles découvertes scientifiques, sans parler d’éviter que les systèmes d’IA soient constitués de matrices numériques obscures et complexes. »

Dans l’esprit de Yudkowsky, la seule solution face à la menace existentielle imminente d’une AGI hostile est d’**interrompre** complètement son développement, par tous les moyens nécessaires.

Il conclut en recommandant la désactivation des grands clusters de GPU (les fermes informatiques où les IA les plus puissantes sont perfectionnées). Il propose également d’imposer des plafonds sur la puissance de calcul autorisée pour le développement d’une IA, avec des réductions prévues au fil du temps, sans exceptions pour les gouvernements ou les militaires.

Selon lui, en cas de non-respect de ces futures sanctions anti-IA, des mesures drastiques devraient être mises en place. « Si un pays en dehors de l’accord est soupçonné de construire un cluster de GPU, il faut avoir plus peur de la violation du moratoire que d’un conflit armé entre nations, » conseille-t-il, « et être prêt à bombarder un datacenter indésirable. »

En discutant avec sa partenaire, Yudkowsky partage son inquiétude que leur fille Nina ne survive pas jusqu’à l’âge adulte si l’on continue à créer des IA de plus en plus intelligentes. Il invite ceux qui partagent cette inquiétude à adopter une position aussi résolue, car ne pas le faire signifierait que « cela pourrait aussi coûter la vie à leurs propres enfants. »

Ce discours alarmiste esthétique autour des enfants a amené Bloomberg à qualifier Yudkowsky de “doomer” après un échange houleux avec Sam Altman d’OpenAI sur Twitter.

Cependant, si une personne se consacrant réellement à l’étude des dangers d’une IA dystopique affirme que nous nous rapprochons des enjeux qu’il met en garde, alors son point de vue mérite d’être entendu.

Pour approfondir l’actualité de l’IA dystopique : Une nouvelle IA détraquée n’a aucune réglementation et fait même l’éloge de Hitler.