Eric Schmidt, l’ancien PDG de Google et co-auteur de l’ouvrage “L’Âge de l’IA”, a exprimé son inquiétude concernant le fait que les humains pourraient développer des sentiments amoureux pour l’intelligence artificielle.
Cette préoccupation est légitime, surtout quand on considère qu’un certain nombre de personnes l’ont vraisemblablement déjà fait.
« Imaginez un monde où chacun aurait un tuteur IA qui améliore ses capacités éducatives, quel que soit sa langue », a déclaré Schmidt lors d’une interview avec ABC News, qualifiant cet usage de “remarquable”.
Il a également noté que ces technologies, connues sous le nom de **grands modèles de langage**, pourraient effectivement réaliser cette vision.
Cependant, Schmidt a également souligné que ces avancées technologiques apportent de nouveaux défis majeurs, se demandant : « Que se passe-t-il quand des gens tombent amoureux de leur tuteur IA ? »
Cette question est particulièrement d’actualité, car The Washington Post a récemment rapporté que la technologie d’OpenAI alimente le nouveau tuteur IA d’une école privée de la Silicon Valley.
Bien que certains puissent trouver difficile à croire qu’un enfant puisse développer des sentiments romantiques pour un tuteur IA, ce n’est pas si déraisonnable. Internet est souvent un refuge pour ceux qui recherchent communauté, amitié, et parfois même une romance numérique.
Il est donc envisageable que des chatbots imitant les humains, conçus pour offrir aide et soutien, puissent combler ce besoin.
De plus, bien que les LLM et les bots qui en découlent soient déjà difficiles à contrôler, les comportements humains peuvent parfois être encore plus imprévisibles. Comme l’a démontré l’effet Eliza, les gens ont tendance à **anthropomorphiser** même les chatbots les plus simples. Plus les bots deviennent sophistiqués dans leur façon de parler et d’agir comme des humains, plus les frontières entre l’humain et la machine s’estompent, souvent à cause du besoin de connexion que ressentent les individus.
Par ailleurs, le marché des compagnons IA connaît une forte croissance. Prenons l’exemple des chatbots du service “petite amie IA” Replika, conçus pour jouer le rôle d’un proche compagnon.
Le succès de Replika, qui revendique **deux millions d’utilisateurs**, démontre que les gens peuvent développer des attaches profondes envers des bots de conversation façonnés pour ressembler à de véritables personnes.
En fin de compte, comme l’a souligné Schmidt lors de son entretien avec ABC, les nouvelles technologies puissantes sont souvent accompagnées d’effets secondaires inattendus. Il a utilisé l’exemple marquant des réseaux sociaux pour montrer l’ampleur, et parfois la gravité, de ces conséquences imprévues.
« Avec les réseaux sociaux, nous étions trop confiants sur la manière dont les gens les utiliseraient », a déclaré Schmidt. « Au lieu de cela, ils ont été exploités pour interférer dans des élections, provoquant des dommages. Des vies ont été perdues à cause des réseaux sociaux. »
« Personne ne visait de tels résultats, et pourtant cela s’est produit », a-t-il ajouté. « Comment pouvons-nous éviter cela avec cette technologie d’IA ? »
FAQ
Qu’est-ce que l’effet Eliza ?
L’effet Eliza fait référence à la tendance humaine à attribuer des caractéristiques humaines à des programme d’intelligence artificielle, même lorsque ces programmes sont rudimentaires.
Quel est le rôle des grands modèles de langage (LLM) ?
Les LLM sont des algorithmes d’IA capables de générer et de comprendre le langage humain, facilitant des interactions plus naturelles entre l’utilisateur et la machine.
Pourquoi les gens s’attachent-ils aux chatbots ?
Les individus cherchent souvent des connexions émotionnelles, et les chatbots, en imitant un comportement humain, peuvent répondre à ce besoin de manière unique.
Quelles sont les implications éthiques de l’utilisation des IA dans l’éducation ?
L’utilisation de l’IA dans l’éducation soulève des questions sur le lien affectif entre l’apprenant et la technologie, ainsi que sur l’impact sur la dynamique humaine dans l’apprentissage.
Comment l’IA influence-t-elle les relations humaines ?
L’IA peut enrichir, mais aussi compliquer les relations humaines, en introduisant des dimensions nouvelles dans les interactions sociales et affectives.