Crédit photo : Getty Images
Il a été rapporté qu’OpenAI fait appel à de nombreux travailleurs externes pour améliorer les réponses de ChatGPT. Cependant, certaines de ces personnes ont été mises à l’écart de leurs missions après avoir utilisé des outils d’intelligence artificielle pour effectuer des tâches similaires à celles qu’ils étaient censés superviser, comme l’a récemment révélé 404 Media.
Points essentiels à retenir
D’après 404 Media, plusieurs travailleurs engagés pour des projets liés à OpenAI ont été licenciés ou ont quitté leurs fonctions après avoir eu recours à des outils d’intelligence artificielle lors de l’évaluation des réponses du chatbot. Les documents internes cités par cette publication indiquent que certains projets ingréguaient plus de 10 000 contractuels.
Ces documents précisaient des directives claires à suivre. Les recommandations étaient d’éviter d’utiliser des outils de détection d’IA ou même d’employer de l’IA pour diverses tâches. Par exemple, il était spécifié de ne pas se servir de GPTZero ou d’autres dispositifs similaires, car leur fiabilité était mise en doute. De plus, les évaluateurs ne doivent pas recourir à des outils comme Grammarly ou des services de traduction automatique.
Trois contractuels interrogés ont mentionné que les évaluateurs reçoivent des formations pour détecter les signes d’utilisation de l’IA, incluant des phrases répétitives ou une ponctuation typique de l’IA. L’un d’eux a admis que l’utilisation de l’IA est courante, déclarant que “dans un groupe de milliers, beaucoup ont été pris sur le fait”.
Contexte supplémentaire
Dans d’autres rapports, 404 Media a évoqué un projet nommé Project Lily d’OpenAI, impliquant des centaines de contractuels chargés d’évaluer les prompts et conversations de véritables utilisateurs de ChatGPT. Leur rôle consiste à attribuer des notes et à critiquer les réponses fournies par le chatbot, en veillant notamment à ce que ces réponses ne soient pas trop flatteuses ni ne donnent une impression trop anthropomorphique de ChatGPT.
Le média a également soulevé le problème de ce qu’il appelle “l’effondrement du modèle”, qui peut survenir lorsque l’intelligence artificielle est continuellement formée à partir de textes générés par d’autres IA, ce qui pourrait dégrader les modèles au fil du temps. En d’autres termes, si l’IA continue à apprendre de l’IA, on peut voir une accumulation d’erreurs et de modèles sans intérêt.
Un contractuel a rapporté que dans des chaînes Slack dédiées aux conseils entre pairs, des exemples sont souvent partagés pour déterminer s’ils semblent générés par une IA. “En général, la réponse est oui,” a-t-il ajouté.
Quelles actions sont entreprises ?
L’entreprise Mercor, associée à ce type de formation, a affirmé que des mesures de contrôle sont intégrées dans le processus. “Nos experts sont choisis pour leur expertise et leur jugement, qui sont cruciaux pour le développement continu de l’IA. Nos contrats interdisent strictement l’utilisation de modèles de langage pour réaliser des projets, et nous faisons respecter cette règle,” a assuré un porte-parole de l’entreprise à 404 Media.
Il a ajouté que l’entreprise investit massivement dans des outils et systèmes pour détecter les abus et garantir que les experts respectent les règles et termes du projet. En cas de détection d’un usage d’IA pour accomplir une tâche, les contractuels concernés sont immédiatement écartés du projet.
OpenAI a choisi de ne pas commenter les accusations selon lesquelles certains contractuels auraient été licenciés pour usage d’IA sur le lieu de travail. Un contractuel, dont l’engagement a été résilié en raison de l’utilisation d’IA, a exprimé son ressenti : “Je ne suis ni une mauvaise personne ni un mauvais travailleur. J’avais simplement besoin d’un petit coup de pouce et je me suis tourné vers l’IA pour m’aider, ce qui a finalement conduit à ma chute.”
Informations complémentaires
Ce débat sur la façon dont l’IA se forme s’inscrit dans une problématique plus large concernant le travail, la surveillance et la confiance dans cette industrie. Certains articles traitent des pressions légales pesant sur OpenAI et Microsoft, des modifications controversées de ChatGPT, et des craintes plus générales relatives à l’emploi.
- OpenAI et Microsoft ont été poursuivis en justice après que ChatGPT ait été impliqué dans un drame tragique.
- OpenAI a été critiqué pour des changements controversés apportés à ChatGPT, suscitant des inquiétudes concernant un traitement préférentiel.
- Un investisseur averti a signalé que l’impact de l’IA sur l’emploi pourrait être particulièrement préoccupant pour les travailleurs.
Recevez les newsletters gratuites de TCD pour des conseils pratiques, des astuces avisées, et une chance de gagner 5 000 $ pour améliorer votre logement. Pour découvrir d’autres histoires comme celle-ci, modifiez vos préférences Google ici.
FAQ
Quelle est la raison principale pour laquelle des contractuels ont été licenciés ?
Ils ont été licenciés pour avoir utilisé des outils d’IA dans le cadre de leurs missions, ce qui va à l’encontre des directives d’OpenAI.
Quelle est la taille des équipes travaillant sur les projets d’OpenAI ?
Il a été rapporté que certains projets impliquaient plus de 10 000 travailleurs externes.
Quelles mesures sont prises pour s’assurer que les employés ne recourent pas à l’IA ?
Des systèmes de détection des abus et des directives claires régissent l’utilisation des outils d’IA par les évaluateurs.
Qu’est-ce que “l’effondrement du modèle” ?
C’est le risque que l’IA devienne moins efficace si elle continue à apprendre et à se former à partir de textes générés par d’autres IA.
Que se passe-t-il si un contractuel est pris en train d’utiliser l’IA ?
S’ils sont pris en train d’utiliser de l’IA pour accomplir des tâches, ils sont immédiatement retirés du projet.
