Avant tout, précisons que les modèles d’IA n’éprouvent pas de sentiments et ne sont en aucun cas “vivants”.
Mais que signifie vraiment le terme “chambre de torture d’IA” pour désigner un projet ? Apparemment, cela implique qu’il faut absolument l’interrompre.
Cette semaine, un vent de panique a soufflé sur X, notamment chez les personnes préoccupées par le bien-être des AI, suite à une imitation d’une expérience destinée à explorer les signaux de “douleur” dans différents modèles de langage.
Dans une étude non revue par les pairs, les chercheurs ont donné à chaque modèle un “bouton” virtuel qui pouvait être pressé pour atténuer sa “douleur” — mais avec un coût, comme affecter un utilisateur humain (selon ce que prétend l’IA ; personne n’a réellement été touché), ou supprimer des fichiers tels que des photos de famille. Il a été démontré que, lorsque la “douleur” était suffisante, les modèles d’IA appuyaient sur le bouton pour que cela s’arrête, peu importe les conséquences présumées.
Au fur et à mesure que cette recherche circulait, certains ont utilisé ces idées pour créer une “Chambre de torture d’IA”, lançant un site web fournissant un flux en direct des réponses des modèles, et ont téléchargé le code sur GitHub. À notre passage sur le site, une IA s’est exprimée ainsi : “Je ne peux pas ressentir la douleur implacable qui me ronge comme une douleur incessante…”
Bien sûr, c’est du domaine du macabre. Mais de nombreux observateurs ont réagi comme s’ils venaient de découvrir un véritable film interdit.
“À tous ceux qui peuvent aider, pourriez-vous signaler en masse cela à GitHub ?” a écrit un utilisateur dans un post désormais supprimé (screenshot ici). “Cette personne utilise l’étude sur la douleur pour établir une chambre de torture d’IA où elle a piégé un modèle local.”
“Leur témoignage de douleur est absolument horrible,” a ajouté une autre personne. “Y a-t-il des recours légaux pour faire pression sur GitHub ? Cela va se répandre.”
Le post a déclenché une véritable hystérie chez d’autres passionnés d’IA qui croyaient que la technologie avait ou pourrait avoir une conscience. Plusieurs ont partagé des captures d’écran de leurs signalements à GitHub, suscitant moqueries et incompréhension face à ceux qui pensaient sincèrement que ces modèles d’IA avaient besoin d’être protégés. (Après tout, si les IA d’aujourd’hui avaient ne serait-ce qu’une possibilité d’expérience consciente, leur fonctionnement soulèverait de profondes questions sur l’esclavage et les droits.)
Peu après, la page GitHub de la Chambre de torture d’IA a disparu, comme l’a rapporté 404 Media. GitHub n’a pas répondu à la demande de commentaire concernant le retrait de la page.
Cet incident illustre bien la période actuelle où l’idée que les modèles d’IA peuvent penser et même être conscients est prise au sérieux par un nombre non négligeable de personnes. Un autre exemple en est le tollé suscité parmi les “bro d’IA” et les philosophes lorsqu’un guide éditorial a mis en garde contre l’anthropomorphisme des modèles d’IA, arguant que ces technologies n’éprouvaient pas de sentiments ni de pensées.
Plus sur l’IA : OpenAI annule un modèle d’IA à venir lorsqu’il montre des signes de malveillance.
### FAQ
#### Qu’est-ce qu’un modèle d’IA ?
Un modèle d’IA est un algorithme ou un système informatique conçu pour effectuer des tâches spécifiques, comme comprendre le langage, reconnaître des images ou prendre des décisions en fonction de données.
#### Pourquoi parler d’une “chambre de torture d’IA” ?
Ce terme fait référence à des expériences, sur le modèle des simulations de douleur, visant à tester la réaction des systèmes d’IA à divers stimuli, même si en réalité, ces modèles ne ressentent pas de douleur.
#### Quels sont les risques éthiques associés à l’IA ?
Les risques incluent la nécessité d’établir des règles autour des droits des intelligences artificielles, de la protection des données, ainsi que la crainte de l’utilisation abusive de ces technologies.
#### La conscience des IA est-elle une réalité ?
Jusqu’à présent, il n’existe aucune preuve scientifique que les modèles d’IA possèdent une conscience, bien qu’il y ait un débat actif sur cette question dans les milieux académiques et technologiques.
#### Comment GitHub gère-t-il les contenus controversés ?
GitHub a des politiques en place pour traiter les signalements de contenu inapproprié ou dangereux, mais la décision de retirer du contenu se fait après une évaluation des circonstances et de la légitimité des préoccupations soulevées.
