<p>
<figcaption class="article-featured-image-caption">
NEW YORK, NEW YORK - 24 AVRIL : (G-D) Yoshua Bengio et Eric Schmidt s'expriment sur scène lors du sommet TIME100 2024 au Jazz at Lincoln Center, le 24 avril 2024 à New York. (Photo par Jemal Countess/Getty Images pour TIME) <em>Image : Jemal Countess/Getty Images pour TIME</em>
</figcaption>
</p>La mise en garde d’un expert en intelligence artificielle
Yoshua Bengio, un pionnier de l’intelligence artificielle (IA), tire la sonnette d’alarme. Il souligne non seulement les dangers potentiels d’une technologie toujours plus puissante, mais met également en garde contre ceux qui la contrôlent, affirmant qu’ils pourraient présenter un risque tout aussi inquiétant.
Dans un entretien accordé à CNBC, cet expert en informatique a déclaré qu’un groupe restreint de technophiles souhaite que l’IA remplace l’humain. À la tête de l’Institut des algorithmes d’apprentissage de l’Université de Montréal, Bengio a été l’un des signataires de la lettre ouverte “Droit d’Avertir”, rédigée par de prestigieux chercheurs d’OpenAI, qui affirment que leur voix est étouffée sur les dangers de cette technologie. Avec des figures éminentes comme Yann LeCun et Geoffrey Hinton, il est souvent décrit comme l’un des “Pères de l’IA”.
« L’intelligence confère du pouvoir. Qui va contrôler ce pouvoir ? » a-t-il affirmé lors du Sommet One Young World à Montréal.
Il a exprimé ses préoccupations en soulignant que certains individus pourraient vouloir abuser de ce pouvoir. « Ces personnes, bien qu’elles soient en minorité, peuvent avoir une grande influence. Et elles pourraient réaliser leurs objectifs à moins que nous ne mettions en place les décisions appropriées dès maintenant. »
Les enjeux financiers de l’IA
Bengio a également noté que la construction des systèmes d’IA représente un coût exorbitant, atteignant des milliards de dollars. Cela signifie que l’aspect financier est crucial dans le développement de cette technologie.
« Seules quelques organisations et pays auront les moyens de le faire », a-t-il ajouté, soulignant que cette situation est déjà une réalité.
« Nous assistons à une concentration du pouvoir dans plusieurs domaines : économique, ce qui peut nuire aux marchés ; politique, risquant de compromettre la démocratie ; et militaire, qui pourrait affecter la stabilité géopolitique de notre planète », a-t-il mis en garde.
Actuellement, il existe des divergences d’opinion chez les experts concernant l’atteinte de l’intelligence artificielle générale, c’est-à-dire l’IA au niveau humain, et quand cela pourrait se produire. Bengio souligne qu’un tel avènement, s’il se produit avant que des régulations adéquates soient mises en place, pourrait être très problématique.
« Si cela se produit dans cinq ans, nous ne sommes pas prêts », a-t-il averti, expliquant que nous manquons de méthodes pour garantir que ces systèmes ne nuiront pas aux gens.
Bengio, bien qu’il ne soit pas le premier à tirer la sonnette d’alarme sur les dangers de l’IA, possède un poids particulier, ayant contribué à sa création.
Plus d’informations sur les avertissements concernant l’IA générale
Quels sont les dangers potentiels de l’IA avancée?
L’IA avancée pourrait poser des menaces telles que la désinformation automatisée, des biais dans les systèmes de décision, et l’utilisation malveillante dans des contextes militaires.
Comment les leaders technologiques réagissent-ils aux avertissements de Bengio?
De nombreux leaders dans le domaine de la technologie soutiennent les préoccupations de Bengio, mais certains croient également en la responsabilité des développeurs d’inclure des mesures de sécurité dans leurs systèmes.
Quelles mesures pourraient être mises en place pour réguler l’IA?
Des politiques pourraient impliquer des contrôles rigoureux, une collaboration entre gouvernements et experts, et une transparence accrue dans le développement des algorithmes.
L’IA pourra-t-elle vraiment remplacer l’humain?
Bien que des avancées significatives aient été réalisées, il est encore débattu si l’IA pourra un jour égaler la complexité et la flexibilité de l’intelligence humaine.
Quels rôles peuvent jouer les citoyens dans la régulation de l’IA?
Les citoyens peuvent participer au débat public, demander des comptes aux entreprises technologiques, et plaider pour une législation éclairée sur l’utilisation de l’IA.
