Les avantages de l’IA
L’État du Nevada a récemment décidé de faire appel à l’intelligence artificielle pour déterminer l’attribution des allocations de chômage, malgré un manque flagrant d’éléments probants en faveur de cette approche. En effet, cette initiative soulève de nombreuses questions.
En 2023, lors d’un entretien accordé à Gizmodo, le directeur du Département de l’Emploi, de la Formation et de la Réhabilitation, également connu sous l’acronyme DETR, a affirmé que chaque décision rendue par l’algorithme sera vérifiée par un référent humain. Cela vise à garantir que les résultats ne soient pas erronés.
Un système contesté
Christopher Sewell, le directeur de DETR, a déclaré : « Il n’y a pas de décisions générées par l’IA sans qu’il y ait d’interaction humaine ni de révision. » L’objectif est d’accélérer le processus afin d’assister rapidement les bénéficiaires.
Récemment approuvé par le Conseil d’Examens de l’État, ce système d’IA, alimenté par Google, analyse les transcriptions et les documents présentés lors des auditions pour formuler des recommandations concernant l’octroi des allocations de chômage.
Cependant, si le référent humain n’est pas d’accord avec l’évaluation de l’IA, les documents seront réexaminés par un officiel, et cela pourrait prolonger le processus, avertit Gizmodo. Il pourrait donc arriver que le recours à l’IA n’accélère pas l’attribution des allocations, surtout si le système échoue régulièrement dans ses évaluations.
Morgan Shah, directrice de l’engagement communautaire pour Nevada Legal Services, a précisé que tout gain de temps dépend d’une vérification superficielle des dossiers. « Si une personne mène un examen approfondi, cela ne réalisera pas d’économies significatives en termes de temps », a-t-elle ajouté.
Les risques liés à l’IA
Selon Shah, le personnel utilisant ce système pourrait être tenté de simplifier les processus et de négliger des détails cruciaux. Cela soulève de sérieuses préoccupations éthiques sur la manière dont ces décisions pourraient affecter des individus vulnérables.
Préoccupations du public
Les doutes concernant le système, dont le lancement a été annoncé plus tôt cette année à la suite de la création d’un chatbot pour les demandeurs d’assurance chômage, ont été exprimés par des anciens fonctionnaires du Nevada. Michele Evermore, ancienne directrice adjointe pour la modernisation du chômage, a soulevé des inquiétudes quant à l’authenticité des évaluations. Elle a commenté : « Si un robot produit une recommandation et que vous devez simplement cocher une case sous pression, cela peut être inquiétant. »
Suite à ces préoccupations, Google a été contacté pour discuter des éventuels problèmes liés à cette IA, qui aurait coûté environ 1 million de dollars aux contribuables. Un porte-parole de la société a assuré que Google collabore avec ses clients pour identifier et corriger tout préjugé potentiel tout en veillant à respecter les exigences légales.
Comme c’est souvent le cas avec l’utilisation de l’IA dans le secteur public, on ne peut pas encore évaluer son efficacité correcte. Beaucoup craignent que ce soit un expériment menaçant pour les plus vulnérables.
Des nouvelles préoccupantes sur l’IA
Plus d’informations sur d’éventuels abus d’IA : Un article a récemment rapporté que des républicains désespérés utilisent cette technologie pour générer de fausses images de Donald Trump sauvant des chatons.
FAQ
Qu’est-ce que l’IA utilisée par le Nevada ?
L’intelligence artificielle mise en place par le Nevada sert à analyser des cas de demande d’allocations de chômage pour en évaluer la légitimité.
Quelle est la position de Google concernant l’IA ?
Google affirme travailler étroitement avec ses clients pour s’assurer que l’IA respecte les normes de non-discrimination et s’adapte aux exigences légales.
Quels sont les risques associés à cette approche ?
Les risques incluent le potentiel de décisions erronées et une pression pour effectuer des évaluations rapides sans une vérification adéquate, ce qui pourrait nuire aux demandeurs d’allocations.
Comment les critiques perçoivent-elles cette initiative ?
Des experts soulèvent des préoccupations éthiques, se demandant si l’IA ne pourrait pas abréger des processus importants et nuire aux individus en rendant des jugements rapides.
Quand cette initiative a-t-elle été lancée ?
L’initiative a été officiellement annoncée plus tôt dans l’année, après la mise en place d’un chatbot pour aider les demandeurs d’assurances au chômage l’été dernier.
