Affaire : Crime et Châtiment
Un avocat, Steven Schwartz, se retrouve dans une situation délicate après avoir utilisé ChatGPT pour préparer un dossier juridique.
Comme on pouvait s’y attendre, cet outil a généré une multitude d’inepties, poussant Schwartz à évoquer des affaires judiciaires entièrement fictives dans le dossier de son client, un homme poursuivant une compagnie aérienne pour un prétendu préjudice.
Aujourd’hui, Schwartz s’est présenté devant un juge à Manhattan, accompagné de son collègue Peter LoDuca. Selon le rapport du New York Times, les circonstances ne sont pas en leur faveur.
Une Situation Inconfortable
Dans une déclaration faite plus tôt cette semaine, Schwartz a avoué : “Je n’avais pas réalisé que ChatGPT pouvait inventer des références judiciaires ou des opinions de manière si convaincante.” Cela a été très embarrassant pour lui, tant sur le plan personnel que professionnel, car ces documents seront consultables pendant de nombreuses années.
Une Gaffe Monumentale
Lors de l’audience d’aujourd’hui, les détails qui ont émergé étaient presque pénibles à suivre. Le tribunal était plein à craquer, certains spectateurs étant même envoyés dans une salle d’audience supplémentaire, comme l’a rapporté le journaliste de la cour Josh Russell.
Le juge fédéral Kevin Castel a évoqué l’affaire fictive “Varghese contre China Southern Airlines Co. Ltd.” durant ses questions. À LoDuca, il a demandé : “Quelle a été votre réaction en lisant cela ? C’est du charabia ! Ça a du sens pour vous ?”
Tout au long de cette mise au point sévère, les deux avocats se sont montrés plutôt muets, sauf pour reconnaître à quel point les informations inutiles générées par ChatGPT semblaient convaincantes.
Schwartz, soulignant sa méprise, a déclaré : “Pensant à tort que ce site ne pouvait pas créer des sources dignes de confiance, j’ai continué à me laisser berner par ChatGPT.”
LoDuca a pris la parole, plaidant : “Je travaille avec M. Schwartz depuis 27 ans. J’aurais dû être plus sceptique. Je ne peux pas revenir en arrière et changer ce qui a été fait. Plus jamais cela ne se reproduira.”
Autres informations sur l’affaire : Un avocat dans de sérieux ennuis après avoir utilisé ChatGPT en cour.
FAQ
Quel est le problème principal rencontré par Steven Schwartz ?
Steven Schwartz a utilisé ChatGPT pour rédiger des références juridiques, mais l’outil a généré des informations fictives, compromettant l’intégrité de son affaire.
Quelles conséquences cela pourrait-il avoir pour lui ?
Sa réputation professionnelle en pâtit, et il pourrait faire face à des sanctions judiciaires compte tenu de la gravité de l’erreur.
Pourquoi ChatGPT a-t-il généré des informations fausses ?
L’IA fonctionne à partir de modèles de langage, ce qui peut parfois entraîner la création de contenus erronés ou inventés, surtout dans des contextes spécifiques comme le droit.
Quels conseils pourrait-on donner pour éviter de telles situations à l’avenir ?
Les professionnels devraient toujours vérifier l’information générée par des outils comme ChatGPT et appliquer leur jugement critique pour assurer la robustesse de leurs dossiers.
Y a-t-il eu des précédents similaires dans d’autres domaines ?
Oui, il y a eu d’autres cas où des professionnels ont utilisé des outils d’IA pour des tâches critiques, relevant ensuite des difficultés similaires, notamment en médecine et en marketing.
