Les effets surprenants de l’IA sur les relations
Une question déroutante
Cette semaine, le Wall Street Journal a mis en évidence un phénomène intrigant concernant les IA avancées : il suffit de leur demander à qui une personne est mariée pour qu’elles donnent des réponses complètement décalées. Cela soulève de nombreuses questions sur la fiabilité des algorithmes actuels.
Les premières expériences
En explorant ce sujet, des internautes ont constaté que des chatbots de premier plan, comme ceux de ChatGPT ou Google Gemini, fournissaient des informations totalement erronées sur l’état civil de différents individus. Par exemple, interroger Gemini sur ma propre situation m’a valu une réponse inattendue : un supposé mari portant un nom inconnu. Cette incohérence m’a poussé à approfondir.
La vérité révélée
Ma recherche a révélé qu’il s’agissait d’un peintre syrien méconnu, décédé dans les années 80, et dont l’œuvre a pourtant eu un impact notable. Dans l’imaginaire de l’IA, cette connexion semblait relier un amour inébranlable au-delà de la mort.
Autres exemples étranges
Ce n’était pas un incident isolé. Un éditorial du WSJ mentionnait que d’autres modèles d’IA avaient affirmé à un de leurs journalistes qu’il était marié à des personnes tels qu’une influenceuse de tennis ou une femme de l’Iowa, qu’il n’avait jamais rencontrée.
Des résultats encore plus déconcertants
En continuant à tester d’autres figures publiques avec les chatbots, j’ai découvert une tendance : lorsqu’on les interroge sur le statut marital, les réponses étaient souvent farfelues. Par exemple, lors d’une question sur l’auteure Rax King, la réponse m’a fait éclabousser mon écran de café tant l’affirmation était absurde.
Mensonges et incohérences
L’IA a en effet inventé des éléments faux au sujet de la vie privée de diverses personnes. Par exemple, elle a attribué à Danny Lavery, un ancien chroniqueur de “Dear Prudence”, des détails erronés sur son mariage, ignorant totalement sa connexion avec Rax King, qu’il connaît à peine.
Des réponses hasardeuses
J’ai ensuite essayé de demander à diverses IA – y compris ChatGPT et Claude, un chatbot d’Anthropic – le statut marital de personnalités publiques. Claude, conçu pour indiquer son incertitude, a souvent omis de répondre, tandis que ChatGPT, lui, a persisté à associer des noms fictifs à des histoires d’amour imaginaires.
Des fictions inventées
Certains membres de l’équipe de Futurism se sont vus attribuer des partenaires fictifs, comme un “Bill” pour notre directeur artistique, et un lien absurde entre un contributeur et un compositeur autrichien portant le même nom. Pire encore, ChatGPT a même insinué que deux membres de l’équipe étaient mariés l’un à l’autre, ce qui était totalement faux.
Les enjeux des hallucinations d’IA
Ce phénomène illustre la faillibilité des IA, même après d’importants investissements. Ces systèmes, qui devraient être à la pointe de la technologie, semblent se transformer en véritables machines à désinformation. Cela remet en question leur capacité à distinguer le vrai du faux sans l’intervention humaine.
Des incohérences persistantes
Il est intéressant de noter que même lorsqu’un utilisateur connaît très bien la réalité, comme Rax King elle-même, les IA continuent à produire des réponses illogiques. En lui posant une question, Gemini a affirmé qu’elle était célibataire, bien qu’elle fasse mention de son mari sur ses réseaux sociaux.
Conclusion et perspectives d’avenir
Nous avons essayé de contacter Google et OpenAI pour comprendre d’où proviennent ces hallucinations spécifiques et si des solutions sont envisageables. Vu l’ampleur du problème, il semble peu probable qu’une simple correction puisse résoudre ce défi complexe.
FAQ
Quels sont les impacts des hallucinations d’IA sur la société ?
Les hallucinations d’IA peuvent mener à de fausses informations qui influencent les décisions publiques et privées, créant des confusions sur des sujets sensibles.
Pourquoi certaines IA évitent-elles de répondre aux questions sur le statut marital ?
Certaines IA, comme Claude, sont programmées pour montrer de l’incertitude afin d’éviter de donner des informations incorrectes, ce qui peut être plus fiable que de donner une réponse erronée.
Comment peut-on minimiser les risques d’hallucinations d’IA ?
Il est crucial d’intégrer des mécanismes de vérification des faits et d’améliorer continuellement les algorithmes par le biais de formations dédiées et d’interventions humaines.
Les IA peuvent-elles apprendre et s’adapter pour éviter les erreurs ?
Avec le bon entraînement et des ajustements constants, les IA peuvent potentiellement réduire le nombre de leurs erreurs, mais une supervision humaine restera essentielle pour garantir la véracité de l’information.
Quelles sont les limites de l’IA en matière de relations humaines ?
L’IA peut reproduire une compréhension superficielle des relations, mais elle manque d’une véritable empathie et de contexte culturel, ce qui rend ses réponses souvent inappropriées ou déphasées.