Une mise au point sérieuse de Morgan & Morgan sur l’utilisation de l’IA
Le cabinet d’avocats Morgan & Morgan a récemment envoyé un message urgent à ses avocats après que deux d’entre eux aient été surpris à citer des affaires judiciaires qui étaient en réalité inventées par un modèle d’IA. Selon des informations rapportées par Reuters, cette affaire a mis en lumière les risques liés à un usage imprudent de la technologie.
La communication aux avocats
Envoyé à plus de 1 000 avocats, l’email souligne la tendance dangereuse des intelligences artificielles à produire de fausses informations, souvent appelées « hallucinations ». Malgré cet incident, la direction de Morgan & Morgan estime que les avantages de l’IA l’emportent encore sur ses inconvénients. Plutôt que d’interdire son utilisation, ce cabinet encourage ses avocats à vérifier méticuleusement leurs citations afin d’éviter de tomber dans le piège de l’invention.
Le message précisait : « Comme nous l’avons déjà mentionné, si vous utilisez l’IA pour identifier des affaires à citer, chaque cas doit être vérifié de manière indépendante. L’intégrité de votre travail juridique et votre réputation en dépendent. »
Un incident embarrassant
La semaine dernière, un juge fédéral dans l’État du Wyoming a critiqué deux avocats de Morgan & Morgan pour avoir inclus au moins neuf exemples de cas fictifs dans des documents juridiques soumis en janvier. Confrontés à des sanctions, les avocats, embarrassés, ont expliqué que l’erreur était due à un « outil interne d’IA » et ont imploré le juge de leur accorder une clémence.
Andrew Perlman, doyen de la faculté de droit de l’Université de Suffolk et défenseur de l’utilisation de l’IA dans le secteur juridique, a déclaré à Reuters que ce type de négligence révèle une incompétence pure et simple.
Les conséquences pour Morgan & Morgan
Le juge n’a pas encore décidé s’il imposera des sanctions aux avocats. Cela constitue néanmoins un grand embarras pour le cabinet, d’autant plus qu’il est engagé dans un procès contre Walmart, la plus grande entreprise mondiale. Cette affaire concerne un hoverboard vendu par le détaillant, qui aurait causé un incendie chez le plaignant. Les avocats de la défense doivent probablement se moquer de la situation, évoluant dans un contexte déjà tendu.
Les défis de l’IA dans le domaine juridique
La situation qui a entraîné cette controverse était prévisible pour quiconque est au fait des limites des grands modèles linguistiques. D’ailleurs, comme le rapportent Reuters, des abus d’IA dans le cadre juridique ont déjà conduit à des enquêtes ou des disciplines dans au moins sept affaires au cours des deux dernières années.
Les hallucinations générées par l’IA ne sont pas seulement préoccupantes pour leur contenu, mais aussi pour le degré de confiance qu’elles inspirent. Cela incite souvent les utilisateurs à Baisser leur vigilance, ce qu’on observe aussi dans le développement de voitures autonomes ou dans des agences de presse expérimentant l’IA pour résumer des articles.
Même si les entreprises peuvent exhorter leurs employés à vérifier leur travail de manière rigoureuse, il n’en demeure pas moins que des erreurs comme celles-ci continueront d’arriver.
Mesures préventives de Morgan & Morgan
Pour tenter d’atténuer les risques liés à l’utilisation de l’IA, Morgan & Morgan a introduit une procédure stipulant que les avocats doivent reconnaître les risques associés à la technologie en validant une case à cocher sur leur outil d’IA. On peut se demander si cette mesure suffira à réduire les imprécisions.
FAQ
Quelle est la réaction de l’opinion publique face à cette situation ?
La réaction est majoritairement critique, soulignant le besoin d’une formation plus approfondie sur l’utilisation de l’IA dans le milieu juridique.
Y a-t-il d’autres cas similaires signalés ?
Oui, plusieurs avocats dans divers pays ont été confrontés à des problèmes similaires avec des outils d’IA, ce qui soulève des préoccupations quant à leur utilisation en milieu professionnel.
Quelles alternatives à l’IA existent pour vérifier les citations juridiques ?
Les avocats peuvent se tourner vers des bases de données juridiques traditionnelles et des analystes humains pour assurer la précision de leurs citations.
Comment le secteur juridique peut-il s’adapter à l’usage de l’IA ?
Une formation et une régulation adéquates sur l’utilisation de l’IA, ainsi que des protocoles stricts de vérification des informations, peuvent aider à intégrer cette technologie de manière sécurisée.
Existe-t-il des ressources pour se former à l’utilisation de l’IA en droit ?
Oui, plusieurs institutions et plateformes en ligne offrent des cours spécialisés sur l’utilisation éthique et efficace de l’IA dans le domaine juridique.
