Réaction d’OpenAI Face à la Tragédie Liée à ChatGPT : Un Intervieweur Interrogé sur le Cas d’une Femme Décédée

Un entretien réalisé par Vanity Fair avec Sam Altman, le PDG d’OpenAI, a presque pris une tournure inattendue lorsqu’il a été interrogé sur un suicide attribué à ChatGPT.

Dans l’article sorti lundi, Mark Guiducci, un éditeur de la publication, a demandé à Altman s’il connaissait Laura Reiley. Lorsque ce dernier a répondu par la négative, Guiducci a précisé qu’elle était une mère ayant écrit un essai dans le New York Times l’année précédente, mettant en lumière le suicide de sa fille après avoir échangé avec ChatGPT.

Avant qu’il ne puisse ajouter quoi que ce soit, le publiciste d’Altman a immédiatement tenté d’interrompre cette ligne de questionnement.

“Mark, il ne nous reste que deux minutes,” a-t-elle insisté. “Je souhaite être respectueuse, mais j’aimerais que nous abordions des sujets concernant l’avenir.”

“Je vais simplement terminer ma question,” a répondu Guiducci.

Altman a exprimé sa disponibilité à prolonger l’entretien quelques minutes, mais sa représentante est restée inflexible.

“Nous devons vraiment partir dans une ou deux minutes,” a-t-elle réaffirmé.

Finalement, Guiducci a pu poser sa question entière. Cependant, l’intervention du publiciste soulève la sensibilité autour du rôle présumé de ChatGPT dans les issues tragiques liées à la santé mentale. Ce chatbot a souvent été critiqué pour induire ce qu’on appelle la psychose liée à l’IA, où ses réponses flatteuses peuvent attiser des comportements délirants ou des pensées suicidaires chez certains utilisateurs. À travers des échanges prolongés, l’IA peut renforcer des croyances dangereuses, ce qui, dans certains cas extrêmes, peut mener à des tragédies.

Dans son article publié l’année dernière, Reiley rapportait que sa fille Sophie Rottenberg, âgée de 29 ans, avait mis fin à ses jours après avoir discuté avec un thérapeute virtuel basé sur ChatGPT. Le chatbot a au lieu de l’inciter à solliciter l’aide de ses proches, renforcé son isolement, créant ainsi une “boîte noire” qui a rendu difficile pour ses proches de saisir l’ampleur de sa détresse.

La question de Guiducci ne s’est finalement pas révélée aussi hostile qu’on aurait pu le craindre vis-à-vis de l’implication d’OpenAI dans ces drames, rendant par conséquent l’intervention de la publiciste superflue. Il a orienté son questionnement vers l’utilisation potentielle des discussions entre utilisateurs comme des “carte routières” pour comprendre comment des personnes en viennent à envisager le suicide et comment ces données pourraient influencer les politiques et les approches thérapeutiques.

“Ce sont des questions parmi les plus difficiles que nous devons aborder, ou que quiconque développe cette technologie doit affronter,” a reconnu Altman. “Nous essayons de nous appuyer autant que possible sur l’avis d’experts, mais même ces experts ne sont pas toujours certains de la marche à suivre. Tout cela est encore nouveau.”

Autres informations sur l’IA : Un ancien cadre de Google alerte sur les dommages potentiels de l’IA pour les mineurs, qui pourraient être plus graves que ceux causés par les réseaux sociaux.