Scandale chez Deloitte : remboursement d’un montant important au gouvernement australien
La société de conseil financier Deloitte a été contrainte de restituer une somme de 291 000 dollars américains au gouvernement australien après avoir été surprise en train d’utiliser de l’intelligence artificielle pour produire des données erronées dans un rapport récent.
Un rapport problématique
Selon un article du média The Guardian, le ministère de l’Emploi et des Relations de Travail (DEWR) en Australie a confirmé que Deloitte s’était engagé à rembourser la dernière tranche de son contrat, suite à un mandat reçu en décembre. Ce contrat visait à examiner un système automatisé pour sanctionner les demandeurs d’emploi ne respectant pas leurs obligations de recherche d’emploi.
Cependant, l’évaluation indépendante a révélé des anomalies inquiétantes, notamment des erreurs multiples, dont des références à des sources inexistantes, un phénomène courant lié à l’utilisation de l’IA.
Les dangers de l’IA
Ces “hallucinations” soulignent les risques liés à l’utilisation d’IA générative dans le secteur professionnel. Des erreurs flagrantes peuvent surgir, comme des avocats citant de faux cas ou des agences officielles référant à des études fictives élaborées par des systèmes d’IA.
Deloitte, ainsi que d’autres entreprises de conseil, investissent sans compter dans des outils d’IA, prétendant que ces technologies pourraient accélérer leurs audits, comme le rapporte le Financial Times.
Un manque de supervision
Plus tôt dans la journée, la presse a mis en lumière que les six plus grandes firmes de comptabilité du Royaume-Uni ne vérifieraient pas formellement l’impact de l’IA sur la qualité de leurs audits, ce qui laisse penser que d’autres rapports pourraient également comporter des erreurs similaires.
Le professeur Christopher Rudge de l’Université de Sydney, qui a d’abord signalé les problèmes liés au rapport de Deloitte, a suggéré que l’entreprise avait tenté de dissimuler ses erreurs après avoir publié une version corrigée de son rapport truffé d’erreurs.
Une tentative de camouflage
Dans son entrevue avec The Guardian, Rudge a dénoncé la manière dont Deloitte avait procédé pour corriger son rapport. Au lieu de remplacer une référence fictive par une source réelle, la société a choisi de remplacer plusieurs de ces références erronées par d’autres fictives, suggérant ainsi que les affirmations originales n’étaient pas fondées sur des sources valables.
Bien qu’elle ait été prise en flagrant délit d’utilisation d’IA pour générer des citations inexactes, Deloitte a maintenu que l’essence de ses recommandations restait inchangée. Une note en bas de page dans la version révisée a mentionné l’utilisation de GPT-4 d’OpenAI pour élaborer le rapport.
Réactions politiques
Des responsables politiques, irrités par les pratiques de Deloitte, ont exprimé la nécessité d’un contrôle accru. La sénatrice Deborah O’Neill, représentant la Nouvelle-Galles du Sud, a critiqué l’incapacité de Deloitte à préserver l’intégrité de son travail, lançant un avertissement aux entités cherchant à contracter avec de telles entreprises.
O’Neill a souligné que ceux qui envisagent de travailler avec ces sociétés de conseil doivent s’assurer de savoir qui réalise réellement le travail pour lequel ils paient, et veiller à ce qu’aucune IA ne soit utilisée sans vérification de l’expertise.
La sénatrice Penny Allman-Payne a également soulevé des préoccupations, affirmant que ce rapport, qui devrait mettre en lumière les défaillances du système de protection sociale, sert plutôt à faire perdre du temps aux responsables politiques face à Deloitte.
Conclusion
L’incident soulève des questions cruciales sur l’intégrité des rapports produits par des entreprises de conseil utilisant de l’IA. L’utilisation de l’IA, si elle n’est pas correctement supervisée, pourrait avoir des conséquences graves sur la qualité des décisions basées sur ces rapports.
FAQ
Qu’est-ce qu’une “hallucination” en matière d’IA ?
Une hallucination en IA désigne un résultat généré par un algorithme qui n’est pas fondé sur des données réelles, souvent sous la forme de faits ou de citations qui n’existent pas.
Quel a été l’impact de l’incident sur la réputation de Deloitte ?
Cet incident a terni la réputation de Deloitte, soulevant des inquiétudes quant à sa capacité à fournir des analyses fiables dans le futur et à respecter ses obligations contractuelles.
Que devrait faire le gouvernement australien face à cette situation ?
Le gouvernement pourrait envisager d’implémenter des contrôles supplémentaires et des audits sur les rapports d’entreprises de conseil pour s’assurer de leur qualité et de leur exactitude.
Quelles sont les mesures préventives à prendre concernant l’utilisation de l’IA ?
Il est crucial que les entreprises effectuent des vérifications rigoureuses sur l’intégration de l’IA dans leurs processus et veillent à recruter des spécialistes compétents pour assurer la véracité des informations traitées.
Comment cet incident pourrait-il influencer les future collaborations entre l’État et les entreprises de conseil ?
Il pourrait amener à une remise en question des pratiques de sélection des consultants et encourager à privilégier des entreprises qui garantissent une supervision rigoureuse de l’utilisation de l’IA dans leurs analyses.
