Un nouveau rapport qui devait être un éloge éclatant des bienfaits de l’IA s’est révélé truffé d’affirmations fallacieuses, considérées comme des hallucinations de l’IA. Le Financial Times souligne que cela démontre par inadvertance l’une des utilisations les plus convaincantes de l’IA : déformer la réalité de votre travail.
Intitulé « Redéfinir l’excellence à l’ère de l’IA agentique », ce rapport a été publié en octobre par KPMG, l’une des quatre grandes sociétés de conseil, ajoutant ainsi à l’embarras des professionnels de Wall Street, passionnés par cette technologie sans vraiment réfléchir.
Le document affirmait que de nombreuses grandes organisations exploitaient déjà l’IA de manière extraordinaire, suggérant que vous devriez également l’adopter avant de devenir l’un de ces dinosaures qui se fient encore à la matière grise pour traiter les informations.
Il était déclaré que la société UBS, gestionnaire de patrimoine mondial, « intègre des agents IA dans le conseil en investissement, la gestion des risques et le suivi de la conformité ». De même, les Chemins de fer fédéraux suisses auraient des agents d’IA « aidant les utilisateurs à planifier, réserver et optimiser leurs voyages en fonction des préférences, des conditions réelles et de l’impact carbone », transformant ainsi la SBB en un orchestrateur de mobilité globale. Par ailleurs, le Transport de Londres aurait utilisé des agents d’IA « pour prédire et gérer la congestion, personnaliser les mises à jour pour les usagers et coordonner les transports multimodaux ».
Les promoteurs de l’IA, souvent enclins à des affirmations exagérées, espèrent désespérément que ces informations soient exactes. Pourtant, comme le signale l’entreprise de détection d’IA GPTZero, ce n’est pas le cas. Un représentant d’UBS a déclaré au FT que les affirmations sur les agents d’IA étaient « factuellement incorrectes », et un porte-parole des chemins de fer suisses a ajouté que les revendications concernant leur utilisation de l’IA étaient « inexactes ». Enfin, un représentant du système de transport londonien a qualifié les affirmations du rapport de « trompeuses ».
Un autre mensonge dans ce rapport concerne le NHS de Greater Manchester, qui aurait utilisé des agents IA pour faire des triages de patients et prédire les réadmissions à l’hôpital. Cette information semblait provenir d’un communiqué de presse, mentionnant un outil d’IA destiné à lutter contre le cancer du poumon — un sujet totalement différent des tâches hospitalières mentionnées par le FT.
Après avoir été informé des inexactitudes, KPMG a retiré le rapport de son site web, mais le mal était fait : ses conclusions avaient déjà été citées par plusieurs publications spécialisées et un grand journal tchèque, selon GPTZero.
Selon Edward Tian, le PDG de GPTZero, des fabrications émanant d’une société de conseil aussi prestigieuse que KPMG « polluent la source d’information », augmentant ainsi « le risque d’hallucinations secondaires ».
L’IA suscite une véritable crise existentielle dans les cabinets de conseil, dont les membres craignent d’être devancés par cette technologie. Cependant, plutôt que de s’opposer à son développement, la plupart choisissent de l’adopter, à l’instar de McKinsey, qui aurait déployé 12 000 agents IA au sein de l’entreprise l’an dernier, après avoir procédé à des licenciements de quelque 5 000 employés.
Ce n’est pas un cas isolé, car des avocats, même dans d’importants cabinets juridiques, ont été accusés de soumettre des dossiers judiciaires truffés de faux précédents et de citations mal attribuées, résultant d’hallucinations générées par un outil d’IA, leur valant les réprimandes des juges.
À lire également sur l’IA : Un juge fâché annule tout un procès après avoir découvert que les avocats des deux parties avaient utilisé l’IA
### FAQ
#### Qu’est-ce qu’une hallucination de l’IA ?
Les hallucinations de l’IA se réfèrent à des erreurs générées par des modèles d’apprentissage automatique, où ceux-ci produisent des réponses factuellement incorrectes ou déformées qui semblent crédibles.
#### Quels sont les risques associés à l’utilisation de l’IA dans le domaine juridique ?
L’utilisation non stratégique de l’IA dans le domaine juridique peut mener à des erreurs dans les documents juridiques, ce qui pourrait nuire aux cas des clients et entraîner des sanctions judiciaires.
#### Pourquoi certaines entreprises adoptent-elles l’IA malgré ses risques ?
De nombreuses entreprises estiment que l’IA peut améliorer l’efficacité, réduire les coûts et offrir des avantages concurrentiels, malgré les risques potentiels liés à son utilisation.
#### L’IA peut-elle vraiment remplacer des emplois au sein des cabinets de conseil ?
Il existe des craintes quant au remplacement d’emplois par l’IA, mais beaucoup s’accordent à dire qu’elle complétera plutôt que remplacera totalement l’expertise humaine dans ces domaines.
#### Quels moyens doivent être mis en place pour une utilisation éthique de l’IA ?
Les entreprises doivent établir des protocoles clairs pour l’utilisation de l’IA, incluant une vérification rigoureuse des données produites, afin d’éviter les inexactitudes et les malentendus.
