Les préoccupations de Yoshua Bengio sur l’intelligence artificielle
Yoshua Bengio, un éminent scientifique en informatique et l’un des pionniers de l’intelligence artificielle, commence à exprimer des inquiétudes au sujet de ses réalisations professionnelles. La montée en puissance de l’IA et l’engouement qui l’entoure semblent prendre une tournure inquiétante.
Réflexions sur l’évolution de l’IA
Lors d’une récente interview accordée à la BBC, Bengio a admis que s’il avait anticipé la rapidité de l’évolution de l’IA, il aurait mis l’accent sur la sécurité plutôt que sur l’utilité. Pour lui, il est crucial de continuer à s’engager dans ce débat, à discuter et à inciter les autres à réfléchir aux implications de ces technologies.
Ces déclarations interviennent après que Bengio a signé une lettre ouverte alarmante rédigée par des leaders de l’industrie, mettant en garde contre le risque existentiel que représente l’IA. Ce document a également été soutenu par Geoffrey Hinton, un autre pionnier de l’IA, qui a récemment décidé de quitter son poste chez Google en raison de ses propres réflexions sur ce sujet pressant.
Les acteurs malveillants
L’un des sujets qui préoccupe particulièrement Bengio est l’utilisation abusive de l’IA par des acteurs malveillants. Cela résonne avec les commentaires de Hinton lors d’une précédente interview. Bengio a évoqué des menaces potentielles telles que l’utilisation militaire de l’IA ou des actions malveillantes orchestrées par des individus psychologiquement instables. Il souligne donc l’importance d’imposer une réglementation sur les entreprises qui développent ces technologies, de la même manière que cela est fait pour d’autres secteurs comme l’aviation ou l’industrie pharmaceutique.
De plus, Bengio a suggéré que les professionnels travaillant sur des systèmes d’IA devraient bénéficier d’une formation éthique avant de se lancer dans leurs projets. Actuellement, cette dimension semble souvent négligée dans le cursus des informaticiens.
Vers un changement de cap
Il est préoccupant que des inventeurs de premier plan comparent leurs travaux à des armes de destruction massive. C’est le cas de Bengio et Hinton, tous deux ayant formulé ces comparaisons. Cependant, Yann LeCun, le troisième membre de ce trio de “pères fondateurs”, ne partage pas ces inquiétudes. Il reste convaincu que l’IA ne représente pas une menace existentielle pour l’humanité et n’a pas signé la déclaration sur le risque récemment publiée.
Malgré les discordes entre ces figures importantes, Bengio reste optimiste et considère que le défi posé par l’IA peut être surmonté. Il fait une analogie avec le changement climatique, soulignant que bien qu’il soit trop tard pour effacer les dommages déjà causés, il est encore possible d’agir pour trouver des solutions.
FAQ
Pourquoi est-il important de réguler l’IA ?
La régulation est essentielle pour éviter des abus et pour garantir que les technologies développées servent l’humanité de manière responsable et sécurisée.
Quelles formes de certification pourraient être mises en place pour les spécialistes de l’IA ?
On pourrait envisager des formations axées sur l’éthique, la responsabilité sociale et les implications morales des technologies, pour préparer les scientifiques à prendre des décisions éclairées.
Les autres “pères fondateurs” de l’IA partagent-ils les mêmes inquiétudes que Bengio ?
Non, Yann LeCun, le troisième membre du trio, a publiquement exprimé qu’il ne considère pas l’IA comme une menace existentielle, ce qui reflète des différences d’opinion au sein du domaine.
Quelles conséquences pourrait avoir une mauvaise utilisation de l’IA ?
Une mauvaise utilisation pourrait entraîner des atteintes à la sécurité publique, des violations de la vie privée, ou encore exacerber les conflits existants.
Quels sont les principaux domaines d’application de l’IA aujourd’hui ?
L’IA trouve des applications dans divers secteurs tels que la santé, l’automobile, les finances, et la surveillance, entre autres.
