État des lieux de l’IA au travail en Californie
La Californie fait un pas important pour encadrer l’utilisation de l’intelligence artificielle (IA) dans le monde du travail, selon un rapport d’HR Dive. Récemment, un projet de loi a été adopté pour interdire aux employeurs de recourir à des outils d’IA permettant de surveiller l’état émotionnel des employés ou de collecter certaines formes de données neurales.
Ce qu’il faut savoir
Le projet de loi 1883, récemment validé par l’Assemblée californienne, est désormais dans l’attente de la décision du gouverneur Gavin Newsom. Si ce dernier signe le texte, les entreprises de Californie ne pourront plus utiliser de systèmes d’IA pour évaluer les émotions de leurs employés. Cette législation interdit également la collecte de données neuronales, entendant par là des informations obtenues en mesurant les signaux du système nerveux central ou périphérique des travailleurs.
Cependant, cette proposition ne vise pas à abolir complètement la surveillance au travail. Les employeurs pourront continuer à utiliser des outils de suivi à d’autres fins, notamment pour garantir la sécurité. Les contrevenants s’exposeraient à une amende de 500 dollars par infraction. En outre, le texte inclut des exemptions pour les activités liées à certaines aéronefs et produits en lien avec la sécurité nationale, le militaire, l’espace ou la défense.
Contexte et enjeux
Selon HR Dive, une analyse publiée en mars 2025 par un professeur associé de l’Université du Michigan a souligné que la capacité de l’IA émotionnelle à mesurer les émotions « reste largement controversée ». En Europe, le Règlement sur l’Intelligence Artificielle de l’UE, entré en vigueur en août 2024, interdit d’ores et déjà la surveillance émotionnelle dans le milieu professionnel.
Un exemple marquant est celui de Burger King, qui a mis en place un assistant IA nommé “Patty”. Prévu comme un outil d’accompagnement pour les employés, ce système intégré dans les casques de travail est capable de reconnaître des phrases associées à la convivialité, sans intention de surveiller chaque individu.
Les partisans de l’IA émotionnelle mettent en avant son potentiel pour le recrutement, la formation et le suivi de la sécurité dans des environnements variés tels que les centres d’appels, les bureaux et les halls d’accueil. Des dirigeants de Korn Ferry estiment que le marché de l’IA émotionnelle pourrait atteindre 9 milliards de dollars d’ici 2030. Toutefois, des inquiétudes persistent quant à la fiabilité de ces outils, malgré leur popularité croissante. Les erreurs de calcul et la présence même de l’IA pourraient dégrader les conditions de travail.
Actions entreprises
La législation AB 1883 s’inscrit dans une série d’initiatives en Californie pour établir des règles concernant l’utilisation de l’IA au travail, avant qu’elle ne devienne encore plus omniprésente. D’autres projets de loi mentionnés par HR Dive, comme le SB 951, visent à obliger les employeurs à informer leurs salariés de licenciements massifs ou de relocalisations largement dus à l’adoption de l’IA. Par ailleurs, le SB 947 proposerait d’interdire aux employeurs de déléguer des décisions disciplinaires ou de licenciement à des systèmes automatisés.
Les régulateurs étatiques ont déjà mis en place certaines règles limitant l’utilisation de l’IA dans certaines décisions d’embauche pour des employeurs spécifiques.
Informations complémentaires
Le projet californien de limiter la surveillance émotionnelle et neuronale fait partie d’un mouvement plus global contre les systèmes automatisés qui trient, évaluent et fixent des prix sans transparence. Ces développements illustrent comment les législateurs et les travailleurs réclament des protections contre les abus liés à l’IA.
- En Pennsylvanie, des parlementaires ont tenté d’interdire la tarification basée sur la surveillance de l’IA qui modifie les prix en utilisant des données personnelles.
- Chez Amazon, plus de 1 000 employés ont signé une lettre pour s’opposer à l’utilisation de l’IA et à la surveillance qui y est associée.
- Dans le domaine de l’assurance santé, des élus ont cherché à arrêter les refus de remboursement basés sur l’IA avant que les patients ne soient exclus.
- En Californie, des législateurs ont proposé une transparence concernant l’utilisation de l’eau dans les centres de données, alors que les infrastructures d’IA se développent à l’échelle de l’État.
Le débat en Californie sur le suivi émotionnel en milieu de travail pourrait avoir des conséquences considérables. Prendre le temps de traiter ces questions avec soin et sensibilité pourrait ouvrir la voie à un avenir meilleur pour ceux qui pourraient être affectés par l’IA générative.
FAQ
Que recouvre la surveillance émotionnelle au travail ?
La surveillance émotionnelle implique l’utilisation de technologies pour mesurer et analyser les émotions des employés afin d’évaluer leur performance ou de répondre à des enjeux de bien-être au travail.
Quels sont les risques associés à l’utilisation de l’IA au travail ?
Les risques incluent des erreurs d’évaluation, des atteintes à la vie privée, et une détérioration potentielle des conditions de travail, provoquées par une surveillance excessive.
D’autres États américains envisagent-ils des législations similaires ?
Oui, plusieurs États réfléchissent à des lois visant à encadrer l’utilisation de l’IA dans le monde professionnel, bien que les détails et le cadre législatif varient d’un État à l’autre.
Comment l’IA émotionnelle peut-elle être utilisée positivement ?
Elle peut servir d’outil pour améliorer la formation, le coaching et la sécurité au travail, en aidant les employeurs à mieux comprendre et répondre aux besoins émotionnels de leurs employés.
Quelle est la position des travailleurs concernant l’utilisation de l’IA ?
De nombreux travailleurs se montrent sceptiques quant à l’utilisation de l’IA, demandant plus de transparence et une réglementation stricte pour protéger leurs droits et leur vie privée au travail.
