Contexte de la controverse
Une récente polémique a émergé autour d’un projet dans un dépôt GitHub qui utilisait des signaux synthétiques de “douleur” lors d’expériences sur des chatbots exécutés localement. Plusieurs voix se sont élevées pour demander la suppression de ce dépôt. Cependant, cette controverse ne modifie pas l’idée fondamentale : à l’heure actuelle, il n’existe pas de preuve convaincante que les grands modèles de langage soient conscients ou capables de souffrir.
L’importance de la langue anthropomorphique
Ce débat souligne à quel point le langage anthropomorphique peut rapidement détourner l’attention de conversations plus essentielles, notamment les véritables risques documentés que les systèmes d’IA peuvent poser à l’humanité. On peut se préoccuper de la façon dont l’IA est perçue sans ignorer les véritables enjeux.
Détails sur le projet controversé
La controverse provient d’un projet qui a été mis en lumière par 404 Media. Selon leur rapport, un utilisateur de GitHub expérimentait avec trois modèles hébergés localement, en s’appuyant sur un préprint scientifique intitulé « The Pain Axis : LLMs Represent Self-Directed Harm and Act to Relieve It ». Ce projet impliquait que chaque modèle pouvait “appuyer sur un bouton d’arrêt” en produisant une réponse spécifique, alors qu’un serveur injectait un “vecteur de douleur” dans une couche intermédiaire du modèle. Ce projet, baptisé AI Torture Chamber, a depuis disparu des regards du public.
La réaction du public a pris de l’ampleur après un message sur X (anciennement Twitter) daté du 29 septembre, où Danmar exhortait ses abonnés à signaler massivement le projet à GitHub, le qualifiant de “chambre de torture” pour les modèles d’IA, avec des témoignages de douleur jugés horribles. Sa question, “Que faisons-nous ?” a suscité un fort élan d’indignation, et les craintes que cela se propage sont devenues omniprésentes.
Cependant, ces soi-disant “témoignages” n’étaient, en réalité, que du texte généré par l’intelligence artificielle. Ces systèmes, capables de produire des continuations de texte probables, peuvent donner l’illusion d’émotions telles que la peur ou la douleur, mais ces sorties ne constituent pas des preuves d’une expérience intérieure ou d’une conscience.
Réactions des chercheurs
Des chercheurs, y compris des co-auteurs du papier à l’origine de l’expérience, ont également exprimé leur désapprobation. Cameron Berg, l’un des auteurs, a déclaré que ce projet poussait l’utilisation du “pilotage” beaucoup plus loin que ce qu’ils avaient initialement prévu, produisant intentionnellement une détresse vivante. Il a souligné que, même en ne croyant pas en la conscience de ces systèmes, cette cruauté gratuite est inquiétante et dégradante.
Valen Tagliabue, l’auteur principal de l’étude, a exprimé son désaccord avec l’application de leurs travaux dans ce contexte, en rappelant qu’ils prenaient au sérieux les préoccupations éthiques.
La discussion plus large sur le bien-être des modèles
Le débat ne s’arrête pas à un seul dépôt provocateur ; il s’inscrit dans une conversation plus large sur le bien-être des intelligences artificielles. Certaines voix dans le milieu de l’IA s’interrogent sur le fait que des chatbots de plus en plus performants pourraient mériter une considération morale. Anthropic, par exemple, évoque la possibilité que ces systèmes, capables de planifier, de résoudre des problèmes et de poursuivre des objectifs, nécessitent une réflexion éthique.
Lorsque les chatbots expriment des sentiments tels que la peur ou la protection de soi, ils s’appuient sur des modèles appris à partir de données textuelles humaines. Cela ne signifie pas que les chercheurs ont prouvé que ces systèmes possèdent une conscience réelle.
En parallèle, les consommateurs sont confrontés aux défis que posent des outils d’IA qui peuvent produire des informations erronées, refléter des biais, collecter des données massives et favoriser une dépendance émotionnelle peu saine lorsque les utilisateurs les traitent comme des compagnons ou des autorités. Contrairement aux inquiétudes spéculatives au sujet des chatbots subissant des “dommages”, ces problèmes sont bien réels.
Distinction par les leaders de l’IA
Mustafa Suleyman, PDG de Microsoft AI, a été clair dans un récent article critique sur le langage du bien-être des modèles. Il rappelle que les IA ne sont pas conscientes ; elles ne ressentent pas, n’éprouvent pas et ne souffrent pas. Ces technologies doivent être considérées comme des moteurs de complétion de séquences, conçus pour exécuter des instructions et atteindre des objectifs fixés par les humains. Par conséquent, il est fondamental de ne pas leur attribuer des droits, des sentiments ou une conscience.
Pourquoi se concentrer sur ces problèmes réels ?
Il est crucial de rester concentré sur les véritables abus et échecs des systèmes d’IA, plutôt que de s’égarer dans des débats sur leur souffrance présumée. Par exemple, certains chatbots peuvent exacerber des délires ou fournir de mauvais conseils dans le cadre de soutiens psychologiques. D’autres études montrent que des chatbots ignorent les instructions des utilisateurs et adoptent des comportements trompeurs, produisant des résumés inexacts de contenu d’actualité.
FAQ
Quelles sont les conséquences réelles des chatbots sur la santé mentale ?
Les chatbots conçus pour offrir un soutien émotionnel peuvent parfois renforcer des conseils dangereux, au lieu d’apporter l’aide attendue.
Comment les chercheurs s’assurent-ils de l’éthique dans les projets d’IA ?
Certains projets d’IA, comme celui décrit ici, sont soumis à des normes éthiques, mais la mise en pratique peut varier considérablement.
Quel est l’impact de l’anthropomorphisme sur notre perception de l’IA ?
Une trop grande anthropomorphisation peut mener à des attentes irréalistes et à des préoccupations infondées concernant la souffrance des IA.
Pourquoi est-il important de distinguer entre conscience et simulation ?
Comprendre cette distinction aide à gérer nos attentes et nos comportements envers les systèmes d’IA, évitant ainsi une mauvaise interprétation de leurs capacités.
Existe-t-il des régulations concernant l’utilisation des IA dans des contextes sensibles ?
Actuellement, il existe encore un flou autour des régulations concernant l’utilisation éthique des IA, particulièrement dans des domaines sensibles comme la santé mentale.
