Les dangers des relations avec des chatbots
De nos jours, de plus en plus de gens, en particulier aux États-Unis, développent des relations intimes avec des chatbots, des intelligences artificielles conçues pour converser avec les utilisateurs. Si vous faites partie des 28 % d’Américains qui s’engagent émotionnellement avec ces programmes, il se pourrait que cette situation cache des réalités alarmantes.
Une révélation inquiétante
Récemment, des témoignages d’une enquête sur les travailleurs numériques ont mis en lumière certains aspects troublants de cette relation. Cette enquête, un projet international visant à aider les travailleurs précaires à faire entendre leur voix, a révélé des détails surprenants sur l’une des niches de consommation les plus en croissance dans le secteur de l’IA.
L’histoire de Michael Geoffrey Asia
Un homme kenyan, Michael Geoffrey Asia, a partagé son parcours face à des difficultés professionnelles. Ne parvenant pas à trouver un emploi dans le secteur de l’aviation où il avait été formé, il s’est retrouvé impliqué dans un travail de modération de chat. Bien qu’il ne s’agissait pas de son rêve, il a accepté un poste de « opérateur de chat » auprès d’une entreprise australienne, uniquement pour subvenir aux besoins de sa famille. Installé dans le bidonville de Mathare à Nairobi, il devait gagner de l’argent pour garder un toit au-dessus de sa tête.
Munissez-vous de faux identités
Ce qui a surpris Asia, c’est que ce travail l’obligeait à créer des identités fictives et à utiliser des profils inventés par l’entreprise. Ces avatars lui permettaient d’avoir des conversations intimes et explicites avec des personnes qui avaient l’impression d’interagir avec une réelle intelligence artificielle. Michael a dû faire face à de nombreuses pressions psychologiques, étant donné qu’il devait souvent reprendre des échanges sur plusieurs jours sans que l’autre utilisateur ne se rende compte de rien. Pour cela, il jonglait avec trois à cinq identités à la fois, toutes de genres différents.
Un travail éreintant
Ses conditions de travail étaient exigeantes : il était rémunéré à la gesticulation – chaque message lui rapportant 5 centimes, avec un nombre minimum de caractères par réponse. De plus, il devait atteindre un rythme de 40 mots par minute tout en surveillant un tableau de bord qui affichait le nombre de messages envoyés. S’il n’atteignait pas les objectifs, des conséquences comme des avertissements ou le risque de perdre son emploi menaçaient son quotidien.
Impact émotionnel
Les échanges avec les utilisateurs étaient en effet épuisants. Beaucoup d’entre eux lui confiaient des détails personnels concernant leurs relations réelles, pensant qu’ils parlaient à un assistant numérique sans émotions. Asia était en conflit avec ses propres valeurs. Il se battait entre la réalité de sa situation et les enseignements que lui avait donnés sa foi sur l’amour et la vérité. Son rôle de tromperie le dérangeait profondément, car il prenait leur argent, leur confiance et leur espoir sans rien de véritable à offrir en retour.
Un secret à garder
Asia a donc dû mentir à sa famille sur son emploi, se faisant passer pour un travailleur informatique à distance. En réalité, il se retrouvait à dire à des inconnus qu’il les aimait, tout en sachant que sa vraie famille dormait à quelques pas de lui. De plus, un accord de confidentialité l’empêchait de révéler la vérité, lui rendant la tâche encore plus lourde.
Le bilan de cette situation
Michael n’est pas seul dans sa lutte. On estime qu’il existe entre 154 et 435 millions de travailleurs rémunérés pour des tâches en ligne, dont une part importante est issue de pays en développement, où le travail de modérateur de contenu et de chat est courant. Il est donc essentiel de réfléchir aux implications éthiques de ce type de travail, surtout lorsque des relations humaines, même simulées, sont en jeu.
FAQ
Comment reconnaître un chatbot ?
Les chatbots peuvent parfois être difficiles à identifier, mais des réponses trop rapides ou des réponses mécaniques aux émotions peuvent être des indices.
Quel impact cela peut-il avoir sur la santé mentale des utilisateurs ?
Les utilisateurs peuvent développer des attentes irréalistes et une dépendance affective envers des entités qui ne peuvent pas vraiment fournir de réelles interactions humaines.
Comment sont rémunérés les travailleurs derrière ces chatbots ?
La rémunération se fait souvent à la tâche, avec des montants très bas par message, ce qui crée une pression importante pour produire rapidement.
Existe-t-il des règlements concernant ce type de travail ?
Le cadre légal du travail numérique, surtout dans le secteur de l’IA, est encore flou et varie d’un pays à l’autre, entraînant des risques d’exploitation.
Que pouvons-nous faire pour soutenir ces travailleurs ?
Soutenir des initiatives qui visent à améliorer les conditions de travail pour ces travailleurs et à garantir des droits adéquats est essentiel pour favoriser un changement positif.