Une inquiétante tendance d’usage de l’IA dans les tribunaux
L’émergence des erreurs causées par l’IA
De nombreux avocats à travers le pays se retrouvent dans des situations difficiles après avoir soumis des documents judiciaires de mauvaise qualité, rédigés avec l’assistance de l’intelligence artificielle. Ces erreurs évidentes soulignent la croissance rapide de la technologie dans les instances judiciaires. Cependant, ce n’est que le début. L’IA ne se limite pas à ces erreurs administratives ; elle est désormais impliquée dans la production de véritables preuves soumises au tribunal.
Un cas singulier en Californie
Récemment, un incident frappant a eu lieu dans un tribunal californien concernant un litige immobilier. Les plaignants de l’affaire Mendones c. Cushman & Wakefield, Inc. ont déposé une vidéo pour prétendre démontrer un témoignage de témoin. Cette vidéo, étrangement floue, montrait un visage presque immobile avec un mouvement minimal, uniquement constitué de lèvres en mouvement. Le caractère artificiel de la vidéo était indéniable, et elle a été rapidement identifiée comme un deepfake. Cette situation pourrait bien être l’une des premières fois où un deepfake a été présenté comme preuve prétendument authentique en cour.
La réaction des juges face à l’IA
Les juges n’ont que peu de tolérance envers l’intrusion de l’IA dans leur domaine, et la juge Victoria Kolakowski, en charge de ce dossier, n’a pas fait exception. Elle a rejeté la plainte le 9 septembre, citant les faux témoignages générés par l’IA. Les plaignants ont tenté de contester cette décision, arguant que la juge n’avait pas prouvé que leur vidéo truquée était une création d’IA. Leur demande a été déclinée le 6 novembre.
Un appel à la vigilance
Kolakowski souligne que la profession judiciaire commence à peine à comprendre les implications de l’IA. Le lancement de l’application de création vidéo Sora 2 par OpenAI a été un signal d’alarme sur la façon dont des preuves vidéo convaincantes peuvent être facilement falsifiées. Autrefois, créer des deepfakes nécessitait des compétences techniques; aujourd’hui, n’importe qui avec un smartphone et une idée peut les produire.
Perspectives d’avenir pour la justice
Ell croit que bien que le système judiciaire soit conscient des évolutions en cours, il n’a pas encore compris toutes les conséquences de l’utilisation de l’IA. Selon une récente enquête, deux approches principales émergent parmi les juges et experts juridiques. Certains pensent qu’il est crucial d’anticiper les potentielles menaces de l’IA en actualisant les règles judiciaires, tandis que d’autres estiment qu’il vaut mieux laisser les juges déterminer eux-mêmes comment gérer ce problème, même si cela entraîne un éventuel désastre d’évidences falsifiées.
Actuellement, les décisions politiques penchent vers le statu quo. En mai, la Commission judiciaire des États-Unis a refusé de modifier ses lignes directrices sur l’IA, conviction que les standards d’authenticité existants suffisaient pour réguler les preuves produites par l’IA. Bien que cette commission ait évoqué la possibilité d’un changement futur, cela pourrait prendre des années. En attendant, l’IA continuera à proliférer dans les salles d’audience.
Un constat inquiétant
La juge Erica Yew, membre des tribunaux supérieurs de Santa Clara en Californie, a partagé son inquiétude, affirmant que les faux témoignages ou preuves générés par l’IA sont de plus en plus fréquents, même si les cas ne sont pas toujours signalés.
FAQ
Quel est l’impact de l’IA sur le système judiciaire aujourd’hui ?
L’IA pénètre progressivement le système judiciaire, causant des erreurs dans la documentation légale et soulevant des préoccupations majeures concernant l’authenticité des preuves présentées.
Comment les juges réagissent-ils aux preuves générées par l’IA ?
Face à ces nouvelles technologies, les juges montrent une réaction variée, allant du scepticisme à l’adoption prudente, avec un désir croissant de mieux comprendre et réguler leur utilisation.
Existe-t-il des régulations spécifiques concernant l’IA dans les tribunaux ?
À l’heure actuelle, il n’existe pas de régulations uniformes appliquées à l’utilisation de l’IA dans les tribunaux, mais il y a des discussions sur la nécessité de mettre à jour les règles judiciaires pour mieux gérer ces nouveaux défis.
Quelles sont les conséquences d’une mauvaise utilisation de l’IA en droit ?
Une mauvaise utilisation peut mener à des preuves fausses, compromettant ainsi l’intégrité des affaires juridiques et, par conséquent, la confiance du public dans le système judiciaire.
Qu’est-ce qu’un deepfake et pourquoi est-il problématique dans un contexte légal ?
Un deepfake est une vidéo ou une audio falsifiée créée à l’aide de l’IA. Dans un contexte légal, il est problématique parce qu’il peut être utilisé pour tromper la cour et influencer des décisions basées sur des preuves non vérifiables.