Les Insider de l’Industrie de l’IA : Entre Innovation et Appréhension

  <div class="newsletter-cta-description">
    <p class="article-paragraph skip">Ne manquez pas les innovations de pointe en science et technologie.</p>
  </div>
</div>

Les personnes qui développent la technologie d’intelligence artificielle, souvent critiquée pour son potentiel à remplacer des emplois — voire à menacer l’humanité — ressentent la même **anxiété** et le même malaise face à l’avenir que nous tous.

Lors du NeurIPS, une des grandes conférences sur l’IA, qui s’est tenue cette année au **San Diego Convention Center**, de nombreux scientifiques ont exprimé leurs craintes concernant l’avenir de l’IA. Cependant, se rendent-ils véritablement compte des risques associés à l’IA ou sont-ils trop absorbés par des **scénarios** issus de leurs romans de science-fiction préférés? C’est la question posée dans un article récent par Alex Reisner pour **The Atlantic**, qui a assisté à NeurIPS. Il a constaté que, si beaucoup mentionnaient les **risques** liés à la création d’une intelligence générale artificielle hypothétique, ils négligeaient les inconvénients plus sur le terrain.

Reisner a noté que “de nombreux développeurs d’IA se concentrent sur les problèmes tangibles de la technologie, tandis que les discussions publiques sur l’IA — même parmi les développeurs de premier plan — sont souvent dominées par des préoccupations irréelles.”

Un exemple de cette déconnexion est **Yoshua Bengio**, chercheur à l’Université de Montréal et l’un des trois “pères” de l’IA qui ont contribué à l’émergence des **grands modèles de langage**. Ces dernières années, Bengio a tiré la sonnette d’alarme sur la sécurité de l’IA et a même lancé une organisation à but non lucratif, **LawZero**, pour promouvoir le développement sûr de cette technologie.

Il a exprimé ses inquiétudes quant à la possibilité que, dans un futur dystopique, les IA puissent tromper leurs créateurs et que celles-ci soient utilisées à des fins politiques pour influencer l’opinion publique. Cependant, Reisner a noté que Bengio n’a pas abordé l’impact des vidéos truquées sur le débat public ni la crise de santé mentale liée aux chatbots, estimant que les **dommages catastrophiques** ne seraient peut-être pas imminents, mais plutôt “dans trois à dix ou vingt ans.”

D’autres intervenants se sont également fait l’écho de cette déconnexion. Dans un discours d’ouverture intitulé “Aurons-nous de fausses peurs au sujet de l’IA?”, la sociologue **Zeynep Tufekci** a averti que les chercheurs manquaient l’essentiel en se concentrant trop sur les risques posés par l’intelligence générale artificielle, une technologie dont la réalisation même est encore incertaine. Lorsqu’un participant a émis des réserves sur la pertinence de ces préoccupations, Tufekci a répondu en soulignant qu’elle voyait peu de discussions sur des problèmes immédiats comme l’addiction aux chatbots, ceux-ci étant souvent éclipsés par des scénarios d’apocalypse ou d’extinction humaine.

Le débat autour de la sécurité de l’IA est souvent teinté d’un discours **apocalyptique**, véhiculé même par certains des milliardaires qui soutiennent ces projets. Par exemple, **Sam Altman**, PDG d’OpenAI, a fait des prévisions alarmantes sur les pertes d’emplois dues à l’IA et a partagé ses appréhensions quant aux risques de fraude d’identité à grande échelle et à un éventuel **virus** mortel provoqué par un système d’IA en représailles contre l’humanité.

De plus, Geoffrey Hinton, un autre des “pères” de l’IA, a lui aussi exprimé des regrets similaires. Après avoir quitté Google, il a déclaré en 2023 qu’il regrettait les conséquences de sa carrière. Sa récente discussion avec le sénateur **Bernie Sanders** a mis en lumière de nombreux risques liés à la technologie, parmi lesquels la destruction d’emplois et les systèmes d’IA militarisés.

Reisner a également fait un constat ironique : le nom de NeurIPS, abréviation de **Neural Information Processing Systems**, rappelle une époque où la complexité des neurones était largement sous-estimée, comparée à celle des ordinateurs. Selon lui, une caractéristique centrale de la culture de l’IA est l’obsession pour l’idée que “l’ordinateur est un esprit”. Des entreprises comme **Anthropic** et OpenAI évoquent même des chatbots comme étant “infidèles” ou “malhonnêtes”. L’univers des sciences de l’IA semble parfois plus influencé par la science-fiction que par la réalité scientifique.

FAQ

Qu’est-ce que le NeurIPS ?

Le NeurIPS est une conférence de premier plan dans le domaine de la recherche en intelligence artificielle, attirant des chercheurs du monde entier pour discuter des dernières avancées et des préoccupations en matière d’IA.

Y a-t-il des préoccupations immédiates à propos de l’IA ?

Oui, des sujets tels que l’addiction aux chatbots et les implications éthiques des vidéos truquées influencent déjà le débat public et l’utilisation de l’IA.

Qui sont les “pères” de l’IA mentionnés ?

Les “pères” de l’IA comprennent des chercheurs célèbres comme Yoshua Bengio, Geoffrey Hinton et Yann LeCun, qui ont contribué de manière significative au développement des modèles d’apprentissage profond.

Quelles solutions sont proposées pour un développement sûr de l’IA ?

Des initiatives comme LawZero, lancée par Yoshua Bengio, visent à promouvoir un développement éthique et sécurisé des technologies d’intelligence artificielle.

Comment l’IA affecte-t-elle l’emploi ?

Les experts prévoient que l’IA pourrait engendrer des pertes d’emplois dans de nombreux secteurs, soulevant des préoccupations socio-économiques sur la réinsertion des travailleurs.