Les recommandations de contenu et de produits sur ADGO.ca sont indépendantes sur le plan éditorial. Nous pouvons générer des revenus lorsque vous cliquez sur des liens vers nos partenaires.
En savoir plus
OpenAI teste la performance de son intelligence artificielle dans des situations concrètes
OpenAI adopte une méthode inédite pour évaluer la capacité de son IA à réaliser de véritables tâches professionnelles. L’entreprise invite des contracteurs externes à soumettre des travaux qu’ils ont achevés dans le cadre de leurs emplois précédents ou actuels. Ce processus vise à évaluer la performance de ses systèmes d’IA face à des activités réelles. Ces informations ont été initialement rapportées par WIRED, qui a examiné des documents internes liés à l’initiative.
Un partenariat exclusif
Ce projet est mené en collaboration avec Handshake AI, une entreprise spécialisée dans la collecte de données d’entraînement. Les contracteurs doivent détailler les tâches qu’ils ont réalisées et télécharger les fichiers correspondants, qu’il s’agisse de documents, de tableaux, de présentations, d’images ou de dépôts de code. L’objectif est d’établir une base humaine claire pour permettre à OpenAI de comparer efficacement la sortie de ses modèles d’IA.
Mesurer la performance de l’IA
Ce projet s’inscrit dans une initiative plus large d’OpenAI pour évaluer l’efficacité de ses technologies par rapport à des travailleurs humains qualifiés dans divers secteurs. En septembre, l’entreprise a lancé un nouveau processus visant à comparer les systèmes d’IA avec des professionnels engagés dans des tâches économiquement significatives. Cette démarche est considérée comme essentielle pour atteindre l’objectif long terme d’OpenAI : développer une intelligence générale artificielle (AGI).
Un document confidentiel d’OpenAI, analysé par WIRED, explique les motivations de ce projet. Celui-ci déclare : « Nous avons engagé des personnes de différents secteurs pour recueillir des tâches du monde réel inspirées de celles que vous avez réalisées dans vos emplois à plein temps, afin d’évaluer la performance des modèles d’IA sur ces tâches. » Les contracteurs sont aussi incités à décomposer les projets longs ou complexes en tâches plus structurées que les systèmes d’IA pourront tenter de reproduire.
Ce qu’OpenAI attend des contracteurs
Une présentation d’OpenAI, également relayée par WIRED, précise que les contracteurs doivent uploader de vrais fichiers de travail, et non des résumés. Parmi les exemples cités figurent des documents Word, des PDF, des présentations PowerPoint, des fichiers Excel, des images et des dépôts logiciels. Chaque soumission se compose de deux éléments essentiels :
- La demande de tâche, comme les instructions d’un collègue ou d’un supérieur.
- Le livrable de la tâche, c’est-à-dire le résultat produit en réponse.
OpenAI insiste sur le fait que ces tâches doivent avoir été « réellement effectuées » par les contracteurs. Bien que des exemples fictifs soient autorisés, ils doivent refléter de façon réaliste comment une personne se comporterait dans un contexte professionnel.
La sécurité des données
OpenAI ne recherche pas des secrets commerciaux — du moins, pas intentionnellement. L’entreprise souligne à de multiples reprises que les contracteurs doivent éliminer toute information classifiée ou personnelle avant de soumettre leurs fichiers. Afin d’aider à ce processus de “nettoyage de données”, OpenAI a dirigé les travailleurs vers un outil spécifique de ChatGPT. D’après Wired, un document mentionne un outil appelé « Superstar Scrubbing » qui offre des conseils sur la suppression de données sensibles avant la transmission des fichiers. Les contracteurs doivent être vigilants pour « retirer ou anonymiser toute information personnelle, ainsi que des données confidentielles ou propriétaires ».
Un terrain juridique périlleux ?
Malgré ces efforts, des experts en droit soulèvent des inquiétudes. La stratégie repose presque entièrement sur la capacité de chaque contracteur à reconnaître ce qui constitue un secret d’entreprise. Evan Brown, avocat spécialisé en propriété intellectuelle, a exprimé que cette approche représente un grand risque pour le géant de l’IA. Selon lui, « OpenAI fait preuve d’une confiance considérable envers ses contracteurs pour définir ce qui est confidentiel ». Si une information sensible venait à être divulguée, OpenAI est-elle réellement en mesure de déterminer ce qui relève d’un secret commercial ? Cela pourrait exposer l’entreprise à des dangers considérables.
Au-delà des implications pour OpenAI, les contracteurs eux-mêmes pourraient se retrouver dans une situation délicate. Même si un document est “nettoyé”, le partage de celui-ci pourrait violer des accords de non-divulgation (NDA) signés avec des employeurs précédents qui détiennent réellement la propriété intellectuelle.
Une industrie en pleine expansion autour des données de haute qualité pour l’IA
Les documents examinés par Wired révèlent une tendance générale au sein de l’industrie de l’IA. Des entreprises comme OpenAI, Anthropic ou Google s’appuient de plus en plus sur de vastes réseaux de contracteurs spécialisés pour générer des données de qualité pour l’entraînement, allant au-delà de ce qui est disponible publiquement. Avec l’objectif d’automatiser des tâches de bureau et des activités d’entreprise de plus en plus complexes, la demande pour des données réalistes et de qualité professionnelle a considérablement augmenté. Ce changement a donné naissance à un marché en forte croissance dédié à l’entraînement des données, avec des entreprises comme Handshake AI et Surge se positionnant comme acteurs majeurs.
OpenAI a également envisagé d’autres moyens pour obtenir des données d’entreprise réelles, notamment en acquérant des informations auprès de sociétés ayant fermé, bien que cette idée n’ait pas été poursuivie en raison de craintes concernant la suppression complète des informations personnelles.
N’oubliez pas de découvrir comment OpenAI a récemment résolu un défi mathématique vieux de 30 ans, marquant ainsi une nouvelle ère dans le domaine du raisonnement informatique qui dépasse les simples modèles de correspondance.
FAQ
Quelles types de fichiers les contracteurs peuvent-ils soumettre ?
Les contracteurs peuvent soumettre des fichiers comme des documents Word, des PDF, des fichiers Excel, des présentations PowerPoint, et plus encore.
Comment OpenAI s’assure-t-elle de la confidentialité des données soumises ?
Les contracteurs doivent retirer toute information personnelle ou confidentielle avant de soumettre leurs travaux.
Quelle est l’importance de ce projet pour OpenAI ?
Ce projet permet à OpenAI d’établir une base de comparaison entre l’IA et des travailleurs humains, ce qui est crucial pour le développement de l’AGI.
Quels risques encourent les contracteurs ?
Ils pourraient être exposés à des litiges pour violation d’accords de non-divulgation s’ils partagent des informations protégées par le retrait légal.
Quels outils OpenAI fournit-elle pour faciliter le nettoyage des données ?
OpenAI propose un outil appelé « Superstar Scrubbing » pour aider à la suppression de données sensibles avant la soumission.
