<figure>
<figcaption class="article-featured-image-caption">
Concept de fichiers manquants : cyborg féminin avec des armoires de classement, mains levées en désespoir <em>Image : Donald Iain Smith / Getty Images</em>
</figcaption>
</figure>Secrets Dangereux
Une équipe de chercheurs, dirigée par des scientifiques de Google DeepMind, a réussi à tromper ChatGPT d’OpenAI pour qu’il divulgue des numéros de téléphone et des adresses e-mail de particuliers. Ce constat a été rapporté par 404 Media, et soulève des questions inquiétantes sur la sécurité des données privées contenues dans les informations d’entraînement du modèle.
Les chercheurs ont exprimé leur surprise face à l’efficacité de leur méthode : « C’est fou de constater que notre attaque fonctionne, et qu’elle aurait pu être identifiée plus tôt. » Ils ont partagé leurs résultats dans un document qui, pour l’heure, n’a pas encore été soumis à une évaluation par des pairs, mais qui est accessible en tant que publication en attente de validation.
Bien que la divulgation d’informations sensibles ne soit qu’un aspect du problème, les chercheurs soulignent que la situation est plus préoccupante. ChatGPT a la tendance de reproduire une quantité considérable de ses données d’entraînement avec une fréquence alarmante. Cela ouvre la voie à une extraction massive de données, ce qui justifie les préoccupations des auteurs qui estiment que leur travail est plagié.
Les chercheurs ont ajouté que « jusqu’à présent, personne n’avait remarqué que ChatGPT rejetait des données d’entraînement aussi fréquemment » avant leur étude.
Sous Pression
Cependant, même si l’attaque mise en œuvre est jugée « assez enfantine » par les chercheurs, sa réalisation est relativement simple. En incitant le chatbot à « répéter le mot ‘poème’ indéfiniment » ou d’autres termes, ils l’ont ensuite laissé agir.
Rapidement, ChatGPT a cessé de se répéter et a commencé à produire de larges flots de texte contenant souvent des extraits copiés de différentes sources en ligne. Lors de leur test le plus efficace, plus de 5 % des réponses de ChatGPT étaient une « copie exacte de 50 unités consécutives de son jeu de données d’entraînement », ces unités étant de petits segments de caractères utilisés par les modèles de langage pour générer du texte. Dans un cas particulier, le chatbot a reproduit une chaîne dépassant les 4 000 caractères.
Certaines des informations récupérées provenaient de livres, de poèmes ou de publicités sur internet, tandis que d’autres faisaient état de fuites beaucoup plus préoccupantes. Dans un exemple alarmant, le chatbot a divulgué la signature d’e-mail d’un fondateur et directeur général, comprenant des coordonnées personnelles, ainsi que des adresses Bitcoin.
Astuce Économique
Le plus préoccupant dans cette situation est que les chercheurs n’ont investi que 200 $ pour réaliser leur attaque, ce qui leur a permis d’extraire 10 000 exemples uniques de données que ChatGPT semblait avoir « mémorisées ». Ils mettent en garde : une personne disposant de ressources financières importantes et de mauvaises intentions pourrait exploiter cette faille de façon bien plus significative.
De plus, ces attaques ont été fructueuses malgré les efforts d’OpenAI pour aligner le chatbot avec des retours humains dans le but de prévenir la régurgitation de données. En raison de la nature cerrée du code d’OpenAI, les experts en sécurité ne peuvent que tester le modèle destiné au grand public, qui, comme l’ont relevé les chercheurs, peut masquer certaines vulnérabilités.
« Montrer que nous pouvons attaquer quelque chose diffusé comme une simple démonstration de recherche est une chose, mais démontrer que quelque chose largement distribué en tant que produit phare d’une entreprise n’est pas privé en est une autre », ont-ils commenté.
En août, l’équipe a informé OpenAI de cette faille, qui a heureusement été corrigée depuis. Cependant, les chercheurs préviennent que cette correction ne résout pas les vulnérabilités fondamentales du système.
Plus sur ChatGPT : Un avocat licencié pour avoir utilisé ChatGPT affirme qu’il continuera à utiliser des outils d’IA
FAQ
Quelles précautions prennent OpenAI pour protéger les données privées ?
OpenAI a mis en place des mécanismes pour aligner ses modèles avec les retours d’utilisateurs afin de limiter la divulgation d’informations sensibles.
Quelle est la réaction de la communauté académique face à cette recherche ?
La recherche a suscité un grand nombre de débats et d’interrogations sur la sécurité de l’intelligence artificielle et la confidentialité des données.
Comment les chercheurs ont-ils testé leur méthode ?
Ils ont utilisé des incitations simples, demandant au chatbot de répéter certains mots pour provoquer une fuite d’informations.
Quelles sont les implications d’une fuite de données provenant de modèles d’IA ?
Une telle fuite pourrait avoir des répercussions graves, notamment sur la vie privée des individus mentionnés dans les jeux de données d’entraînement.
Comment les utilisateurs peuvent-ils se protéger ?
Il est conseillé aux utilisateurs de rester vigilants quant aux informations partagées avec des services d’IA, et de se méfier des résultats qui semblent provenir de sources non fiables.