Une controverse récente impliquant State Farm fait la une après qu’un tribunal de Californie a découvert que des précédents juridiques invoqués dans une affaire concernant un logement endommagé par un incendie étaient en réalité faux, apparemment générés par une intelligence artificielle (IA). Cette situation soulève des inquiétudes importantes sur l’utilisation des outils d’IA dans des domaines à enjeux élevés, mettant en lumière les dangers de leur utilisation sans vérification préalable.
Détails de l’incident
D’après les informations du Los Angeles Times, les avocats de State Farm ont mentionné plusieurs affaires fictives dans des documents présentés dans le cadre d’un contestement d’assurance à Carson. Ces citations inexactes ont été utilisées pour soutenir des arguments relatifs à l’évaluation des demandes d’indemnisation et aux limites des témoignages d’experts, notamment sur la question de savoir si State Farm devait prendre en charge l’intégralité des dommages subis par la maison.
Dans un document déposé le 11 août, Jacquelene Robinson, avocate dans le cabinet Musick, Peeler & Garrett qui représente State Farm, a reconnu qu’elle avait utilisé la plateforme d’IA Irys pour ses recherches et que les documents avaient été soumis sans validation des références citées. Elle a exprimé ses plus sincères excuses pour cette négligence professionnelle, affirmant sa responsabilité face à ces erreurs inacceptables.
Problèmes révélés par cet incident
Cette affaire a été initialement portée à l’attention par l’avocat Michael Shaolian, qui avait intenté une action en justice en 2024 concernant la demande d’assurance de Fa’alagilagi Meni-Silga, une résidente de Carson. Celle-ci avait signalé que sa maison avait subi d’importants dommages, d’abord causés par un incendie, puis aggravés par une tempête de pluie. Une fois le problème soulevé, le cabinet juridique a admis avoir trouvé des “citations de cas inexistants” dans plusieurs de ses documents, qui semblaient résulter d’hallucinations de l’IA.
Contexte plus large
Cette situation survient alors que State Farm est également sous le feu des critiques en Californie. La compagnie d’assurance fait face à de nombreuses plaintes de clients touchés par les incendies de Palisades et Eaton, qui accusent l’entreprise de retarder ou de minimiser le paiement des indemnités, y compris pour les frais de nettoyage liés aux toxines de l’incendie. En printemps 2026, le Département des assurances de Californie a signalé qu’il envisageait de suspendre provisoirement State Farm de la possibilité d’émettre des polices d’assurance.
Bien que les outils d’IA puissent accélérer des avancées dans divers secteurs, leur mise en œuvre nécessite des ressources considérables, notamment en électricité et en eau. De plus, les dérives, les erreurs de sécurité et les conséquences imprévues, telles que l’augmentation des factures d’énergie, peuvent avoir des répercussions sur la société dans son ensemble.
Mesures prises
Face à cette situation, State Farm a annoncé qu’elle travaillait activement pour éviter qu’un tel incident ne se reproduise à l’avenir. Selon Tom Hartmann, un porte-parole de la société, des “mesures de protection adéquates” sont mises en place pour prévenir d’autres erreurs similaires. Le commissaire aux assurances, Ricardo Lara, a déclaré que les régulateurs avaient constaté que State Farm avait “retardé, sous-payé et inondé les assurés de paperasse au moment où ils en avaient le plus besoin”. La compagnie a contesté cette affirmation, affirmant que les régulateurs partagent également la responsabilité des délais et décrivant le marché de l’assurance habitation en Californie comme étant en profonde dysfonction.
FAQ
Qu’est-ce qui a causé cette erreur concernant les citations juridiques ?
L’erreur est survenue suite à l’utilisation d’un outil d’intelligence artificielle sans validation des informations, entraînant la citation de précédents juridiques fictifs.
Quelles actions State Farm entreprend-elle pour éviter des incidents similaires ?
La compagnie a indiqué qu’elle met en place des mesures de vérification pour s’assurer que de telles erreurs ne se reproduisent pas.
Quels types de plaintes ont été formulées à l’encontre de State Farm ?
Des clients ont déposé des plaintes pour retards ou refus de paiement d’indemnités résultant des incendies de Palisades et Eaton.
En quoi l’utilisation d’IA pose-t-elle problème dans le secteur juridique ?
L’utilisation d’IA sans vérification peut mener à des conclusions erronées qui compromettent des affaires judiciaires et la confiance dans les processus juridiques.
Quelle est la réaction des autorités face à la situation ?
Les autorités régulatrices ont exprimé leur préoccupation face aux pratiques de State Farm et envisagent des sanctions potentielles contre l’entreprise.
