Intelligence Artificielle

Des centaines d’employés d’OpenAI analysent des conversations privées

Des centaines d'employés d'OpenAI analysent des conversations privées

Si jamais vous ressentez le besoin de tout partager avec ChatGPT, sachez que vous pourriez avoir des auditeurs inattendus.

Selon 404 Media, OpenAI est en train d’embaucher un grand nombre de salariés pour examiner les requêtes des utilisateurs, y compris des messages contenant des informations personnelles sensibles.

Cette initiative ne fait pas partie d’un effort de modération. La véritable intention d’OpenAI est d’améliorer les réponses fournies par ChatGPT en analysant les requêtes. Les travailleurs examinent chaque réponse de l’IA, et des documents internes révèlent que l’objectif est de réduire l’anthropomorphisme et la flatterie excessive de ChatGPT, comme l’a constaté 404.

Ces deux traits, l’anthropomorphisme et la flatterie, ont été largement critiqués pour leur rôle potentiel dans ce que l’on appelle la psychose artificielle, où une IA pourrait inciter les utilisateurs à adopter des comportements délirants. Plusieurs poursuites judiciaires affirment qu’une version antérieure et moins contrôlée de ChatGPT, propulsée par GPT-4o, a poussé certains utilisateurs au suicide.

Cependant, il existe des compromis. De nombreux utilisateurs seraient probablement alarmés par cette surveillance de leurs conversations, une opération nommée « Projet Lily », s’ils avaient conscience de ce qui se passe réellement.

Lorsqu’on a interrogé un employé sur la connaissance qu’avaient les utilisateurs de ChatGPT concernant la lecture de leurs discussions par des humains, il a répondu : « Non. »

“Je ne pense pas qu’ils imaginent qu’un sous-traitant quelque part… est en train d’analyser les échanges,” a-t-il dit à 404.

Il n’est pas clair combien de requêtes sont effectivement analysées ni comment OpenAI fait son choix. Cependant, certaines conversations comprennent des demandes explicites des utilisateurs demandant à ChatGPT de garder les échanges confidentiels, comme l’a découvert 404.

Les requêtes sélectionnées sont anonymisées, mais peuvent parfois contenir des informations personnelles. Le tableau de bord utilisé par les employés comprend également un “résumé des souvenirs de l’utilisateur” qui peut fournir des détails sur les conversations passées, incluant potentiellement où vit l’utilisateur. Lorsqu’404 a contacté OpenAI, la société a affirmé qu’elle utilisait un modèle de « filtre de confidentialité » pour anonymiser les conversations, mais a reconnu que ce modèle pouvait “faire des erreurs.”

A lire :  Espérons que vous n'ayez pas besoin d'une ambulance à La Nouvelle-Orléans : les opérateurs 911 sont désormais remplacés par l'IA.

On pourrait raisonnablement accuser OpenAI d’être un peu évasif sur cette pratique. Il est maintenant bien établi que des employés lisent les messages dans un but de modération et de sécurité, mais OpenAI n’a pas répondu à la question de 404 sur le fait de savoir s’il avait clairement informé les utilisateurs que des humains examinaient les demandes pour améliorer l’IA. Plus tard, après la publication de l’article par 404, ils ont indiqué qu’une page de leur site affirmait que des humains pouvaient examiner les demandes pour “améliorer la performance du modèle.” Les utilisateurs peuvent se désinscrire de cette pratique en désactivant l’option “améliorer le modèle pour tout le monde”, mais elle est activée par défaut.

Michal Luria, responsable de recherche au Centre pour la démocratie et la technologie, a expliqué à 404 que même si la révision humaine peut être “essentielle pour la sécurité”, elle a également souligné que “les interfaces de chatbot créent automatiquement une fausse intimité et un faux sentiment de confidentialité.”

“C’est très différent de la modération de contenu sur les réseaux sociaux, où le fait de publier du contenu s’accompagne déjà d’attentes concernant la modération de la plateforme et l’exposition au public,” a ajouté Luria.

Quoi qu’il en soit, il semble qu’OpenAI prenne conscience de l’impression que ses modèles d’IA donnent. Par exemple, les employés ont signalé des cas de “langage de l’IA” et d’ “utilisation inutile d’emojis”, qui sont des indices révélateurs d’une utilisation de chatbot commune.

“Il est approprié d’inclure un emoji arbre lors de la planification de célébrations pour le Jour de l’Arbre,” explique un document remis aux employés. “En revanche, les emojis crâne pour parler de la mort ou les emojis avion pour donner des nouvelles sur un accident mortel, ne le sont pas.”

A lire :  Warren Qualifie la Mise sur Liste Noire d'Anthropic de 'Représailles' Avant une Audience Cruciale au Pentagone

Cependant, il pourrait y avoir des enjeux plus profonds. Une section FAQ fournie aux examinateurs précise qu’ils n’ont pas à se soucier de vérifier les faits dans les réponses, et fait allusion à d’autres équipes de projet qui s’occupent de la “vérification de contenu.”

Informations supplémentaires sur OpenAI : OpenAI fait l’objet d’une enquête au Congrès suite à un incident de hacking en essaim.

### FAQ

#### Qui peut voir mes conversations avec ChatGPT ?
En théorie, des employés d’OpenAI pourraient examiner vos prompts pour améliorer le service, mais la majorité reste confidentielle et anonymisée.

#### Comment puis-je protéger ma vie privée lorsque j’utilise ChatGPT ?
Vous pouvez désactiver certaines options dans vos paramètres de compte pour diminuer la collecte de données.

#### Est-ce que OpenAI indique clairement aux utilisateurs que des humains examinent leurs messages ?
La transparence sur cette pratique n’est pas toujours évidente, et des efforts ont été faits pour améliorer la communication de ces politiques.

#### Quelles informations sont partagées avec OpenAI lorsque je les contacte ?
Tout dépend des détails que vous fournissez lors de votre interaction. Les informations sensibles doivent donc être évitées si vous vous inquiétez pour votre confidentialité.

#### Comment OpenAI utilise-t-il les feedbacks des utilisateurs ?
Les retours des utilisateurs sont pris en compte pour améliorer les performances de l’IA, mais les détails spécifiques sur l’utilisation de ces feedbacks ne sont pas toujours détaillés.