Aux États-Unis, les travailleurs révèlent que l’IA évalue leur ton, note leurs performances et forme des bots pour les remplacer.

Surveillance par IA dans les lieux de travail

Des travailleurs ont évoqué dans une vidéo sur Instagram les dérives de la surveillance pilotée par l’intelligence artificielle (IA) dans divers secteurs. Par exemple, une infirmière travaillant pour Kaiser Permanente a expliqué que le logiciel analysant ses appels lui signalait constamment un manque d’empathie. En parallèle, des employés du secteur technologique ont mentionné que leurs écrans, clics et performances étaient suivis d’une manière suscitant leurs craintes quant à une éventuelle remplacement par des machines.

Points clés à retenir

Selon un rapport de More Perfect Union, deux tiers des travailleurs aux États-Unis affirment qu’ils sont surveillés par des logiciels, souvent appelés bossware. L’IA a rendu ces systèmes de surveillance encore plus intrusifs. Une infirmière, Sherry Shaw, qui cumule 28 années d’expérience, a déclaré que son travail était minutieusement contrôlé, ce qui incluait la durée des appels et les temps de réponse. Elle a ajouté qu’un programme pilote d’Emotion AI critiquait souvent son ton lors des interactions avec les patients, en lui indiquant qu’il ne semblait ni doux ni engageant.

Dans une déclaration, Kaiser Permanente a précisé que ces mesures n’étaient pas utilisées pour évaluer les performances des employés. Cependant, une poursuite judiciaire a été mentionnée, affirmant que Meta avait mis en place des systèmes basés sur l’IA pour évaluer et classer ses employés, recommandant même ceux qui devraient être licenciés, y compris ceux ayant pris des congés parentaux ou médicaux.

Contexte supplémentaire

Pour démontrer l’expansion et l’amplification des outils de surveillance par IA, Mae Ryan, productrice chez More Perfect Union, a installé bossware sur son propre ordinateur. Cela a généré des visions d’écran en direct, des photos, et un score de productivité fixé à 65 %. Elle a même noté que le système considérait comme “non productifs” le temps passé à lire des contenus de reporting ou à suivre des webinaires.

Des études suggèrent que certaines entreprises de bossware pourraient partager des données avec des annonceurs ou d’autres intermédiaires. Un internaute a commenté qu’il était essentiel d’avoir des lois sur la propriété des données, rappelant que les employés doivent contrôler leurs données, qui sont devenues extrêmement précieuses. En outre, il a été souligné que Google avait investi 10 millions de dollars dans le processus de faillite de Spirit Airlines pour acquérir des données sur l’entreprise afin de former son IA.

Quelles actions sont entreprises ?

Face à cette situation, les travailleurs commencent à se mobiliser. L’initiative interne de Meta, portant sur les modèles de capacités, qui collectait des données sur les activités des employés pour améliorer des systèmes d’IA, a suscité une pétition signée par plus de 1 800 travailleurs. Suite à cette réaction et aux préoccupations liées à la vie privée, Meta a suspendu ce programme.

Samantha Gordon, militante ayant suivi les tendances de bossware en Californie, a précisé qu’un projet de loi visait à interdire aux employeurs d’utiliser les données personnelles des employés pour former des systèmes d’IA. Bien que cela n’ait pas avancé, la Californie a tout de même adopté une loi interdisant aux algorithmes de prendre des décisions en matière d’embauche ou de licenciement. Une autre loi limite l’utilisation de l’IA de reconnaissance des émotions et la surveillance des données neuronales.

More Perfect Union a aussi mis en avant la négociation collective comme un moyen de protection. Sherry Shaw a mentionné que dans son lieu de travail, les employés avaient le droit de demander des explications sur les nouveaux outils d’IA et pouvaient contester ceux qu’ils jugeaient déshumanisants. Elle a illustré cela en déclarant : “Nous ne sommes pas des robots, mais on nous demande d’agir comme tels.”

Où se renseigner davantage ?

Ces témoignages mettent en lumière les évolutions du milieu professionnel suite aux défis posés par la surveillance et le remplacement par l’IA.

• Dans différents bureaux, les effets secondaires de l’IA se propagent plus rapidement que prévu.
• Les rôles en service client et en secrétariat sont de plus en plus examinés à mesure que les systèmes d’IA s’améliorent.
• Un dirigeant a affirmé que l’IA est “partout sauf dans les données macroéconomiques entrantes”.

FAQ

Qu’est-ce que le bossware ?

Le bossware désigne des logiciels utilisés par les employeurs pour surveiller les activités de leurs employés, y compris leurs performances et leur temps de travail.

Quels sont les risques associés à l’utilisation de l’IA dans le milieu professionnel ?

Les risques comprennent une surveillance excessive, une perte de vie privée, et des évaluations automatisées qui peuvent affecter les carrières des employés sans équité.

Comment les travailleurs réagissent-ils face à cette surveillance ?

De plus en plus de travailleurs s’organisent par le biais de pétitions et de négociations collectives pour contester l’utilisation de ces systèmes de surveillance intrusifs.

Quel est l’impact de l’IA sur l’emploi ?

L’IA peut accélérer le remplacement de certains emplois, en particulier dans des domaines considérés comme répétitifs ou facilement automatisables.