L’Investisseur en Apprentissage Automatique Alerte : L’IA Frôle le Statut Divin.

Un investisseur en intelligence artificielle pousse un cri d’alarme sur la quête incessante de machines de plus en plus intelligentes, qu’il craint de voir atteindre un niveau proche de la divinité.

Dans un article publié dans le Financial Times, Ian Hogarth, un investisseur important dans ce domaine, a partagé une anecdote troublante. Un chercheur en apprentissage automatique avec qui il conversait lui a dit qu’à partir de ce moment, nous étions à un pas du développement d’une **intelligence artificielle générale** (IAG) — une révélation qui l’a profondément surpris.

“Il ne s’agit pas d’une opinion universelle”, a précisé Hogarth, notant que les **prévisions** sur l’émergence de l’IAG varient de dix ans à cinquante ans ou plus.

Néanmoins, une **tension** existe entre les ambitions des entreprises d’IA, qui visent à développer l’IAG, et les craintes exprimées par les experts en apprentissage automatique — et le grand public — qui comprennent les enjeux.

“Si vous pensez que nous pourrions nous approcher de quelque chose de potentiellement **dangereux**,” a-t-il dit au chercheur, “ne devriez-vous pas alerter les gens sur ce qui se passe ?” Le chercheur semblait en effet tiraillé par la responsabilité qui pesait sur lui, mais comme beaucoup dans ce domaine, il était entraîné par la **rapidité** des avancées.

Comme de nombreux parents, Hogarth a ensuite pensé à son fils de quatre ans après cette discussion.

“En réfléchissant au monde dans lequel il pourrait grandir, j’ai progressivement évolué de la **surprise** à la colère,” a-t-il écrit. “C’était profondément injuste que des décisions cruciales, susceptibles d’affecter chaque vie sur cette planète, soient prises par un petit groupe d’entreprises privées sans contrôle démocratique.”

En s’interrogeant sur la possibilité que ceux qui s’efforcent de créer la première véritable IAG aient un plan pour ralentir le processus et impliquer le reste du monde, Hogarth a reconnu que, bien qu’il ressente un **sentiment d’opposition**, il fait également partie de cette communauté, ayant investi dans plus de cinquante startups en IA.

“Un acronyme en trois lettres ne rend pas compte de l’ampleur de ce que représenterait l’IAG,” a-t-il déclaré. “Je préfère l’appeler **IA divine**,” un ordinateur superintelligent capable d’apprendre et d’évoluer de manière autonome, de comprendre son environnement sans supervision et de transformer le monde qui l’entoure.

“Pour être clair, nous ne sommes pas encore arrivés là,” a-t-il poursuivi. “Mais la nature même de la technologie rend extrêmement difficile de prédire quand nous y parviendrons. L’IA divine pourrait devenir une force échappant à notre contrôle ou compréhension, potentiellement capable de mener à l’obsolescence ou à l’**extinction** de l’humanité.”

Bien qu’Hogarth ait passé sa carrière à financer et soutenir la recherche en IA — allant jusqu’à créer sa propre société de capital-risque et à publier un rapport annuel intitulé “État de l’IA” — il semble que la situation ait évolué. La **concurrence** entre quelques entreprises pour créer l’IA divine s’est intensifiée de façon rapide.

“Elles ne savent toujours pas comment atteindre leur objectif en toute sécurité et manquent de **supervision**,” a observé Hogarth. “Elles se précipitent vers une ligne d’arrivée sans comprendre ce qui les attend de l’autre côté.”

Bien qu’il ait l’intention d’investir dans des startups cherchant à développer une IA de manière plus responsable, Hogarth a constaté qu’il avait peu de réponses positives de la part de ses homologues.

“Malheureusement, je crains que la course se poursuive,” a-t-il ajouté. “Il faudra très probablement un événement majeur — une catastrophe — pour sensibiliser le public et les gouvernements.”

À propos de l’IA apocalyptique : Un tiers des chercheurs pensent que l’IA pourrait causer une catastrophe de niveau nucléaire.