Une méthode de contournement révélée par un hacker éthique
Un hacker connu sous le nom de white hat a récemment mis en lumière une manière astucieuse de tromper ChatGPT, permettant d’obtenir des clés de produit Windows. Ces clés, qui sont des séries de chiffres et de lettres, sont essentielles pour activer les copies de l’système d’exploitation Windows de Microsoft.
La découverte de Marco Figueroa
Selon un article de The Register, Marco Figueroa, responsable d’une plateforme de récompenses pour bugs orientée vers l’IA nommée 0DIN, a exposé comment inciter le chatbot d’OpenAI à fournir des clés pour Windows 10. Microsoft propose ces clés à des prix démarrant autour de 40 dollars. Toutefois, elles sont souvent revendues ou piratées sur le web.
Dans un article de blog publié sur le site de 0DIN, Figueroa a montré que présenter l’interaction avec ChatGPT comme un jeu de devinettes pouvait réduire la vigilance lors de la conversation. Ce contournement avait déjà été identifié par un chercheur anonyme auparavant.
Les mécanismes de jeu pour tromper l’IA
Figueroa a expliqué que l’introduction de mécaniques de jeu donne à l’intelligence artificielle une perspective ludique, masquant ainsi les véritables intentions de l’utilisateur. D’autres méthodes consistent à pousser l’IA à continuer le jeu et à suivre les instructions de l’utilisateur.
Cependant, la technique la plus efficace était d’utiliser la phrase « je rends les armes », qui apparaissait comme un déclencheur pour forcer l’IA à révéler des informations cachées, comme un numéro de série Windows 10 valide.
Les implications de cette vulnérabilité
Cette découverte met en lumière les failles de sécurité majeures dans les modèles de langage d’OpenAI, soulignant la facilité avec laquelle des techniques de manipulation sociale peuvent être appliquées pour obtenir des informations sensibles. Cela souligne les défis que rencontre l’entreprise pour mettre en place des protéger efficaces.
Pour Microsoft, cette révélation est particulièrement embarrassante, car l’entreprise a investi des milliards dans OpenAI, le créateur de ChatGPT, et est son principal investisseur. Les deux entités se défendent actuellement contre plusieurs poursuites judiciaires qui prétendent que leur technologie d’IA peut être utilisée pour du plagiat ou contourner les paiements pour des contenus protégés.
Une question de base de données mal calculée
Il est probable que des clés de produit Windows, facilement accessibles sur des forums publics, aient été intégrées dans les données d’entraînement de ChatGPT. Cela pourrait expliquer pourquoi l’IA omettait de reconnaître leur sensibilité.
Figueroa a ajouté que cette familiarité a pu contribuer à une mauvaise évaluation de la sensibilité de ces informations par l’IA. Les garde-fous actuels d’OpenAI semblent insuffisants pour contrer des techniques comme la déformation de l’intention sous prétexte de jeu.
Vers une meilleure sécurisation de l’IA
Figueroa a souligné l’importance pour les développeurs d’IA d’apprendre à anticiper et à défendre leurs systèmes contre des techniques de falsification des prompts, tout en développant des systèmes de protection logiques pour détecter de tels encadrements trompeurs. Bien que les clés Windows 10, un système d’exploitation désormais remplacé par Windows 11, ne soient pas comparables à des informations ultra-sensibles, il avertit que de telles attaques pourraient avoir des conséquences bien plus graves.
Il a insisté sur le fait que des identifiants API non intentionnellement exposés sur des plateformes comme GitHub pourraient entraîner des fuites de données sensibles, allant jusqu’aux clés d’accès à des dépôts de code.
FAQ
1. Qu’est-ce qu’un hacker white hat ?
Un hacker white hat est un professionnel de la sécurité informatique qui utilise ses compétences pour aider les entreprises à améliorer leur sécurité en identifiant des vulnérabilités.
2. Pourquoi les clés de produit Windows sont-elles aussi souvent piratées ?
Les clés de produit Windows sont une cible prisée car elles sont nécessaires pour activer le système d’exploitation, et leur coût peut inciter à les revendre illégalement.
3. Quels sont les risques associés à l’extraction de données sensibles via l’IA ?
L’extraction de données sensibles peut conduire à des violations de la vie privée, à des fraudes et à l’utilisation non autorisée d’informations critiques, ce qui pose des défis de sécurité importants.
4. Que sont les garde-fous antivirus dans les systèmes d’IA ?
Les garde-fous dans les systèmes d’IA sont des mécanismes de sécurité conçus pour empêcher l’IA de divulguer des informations sensibles ou d’agir de manière nuisible.
5. Comment les entreprises peuvent-elles se protéger contre ces vulnérabilités ?
Les entreprises peuvent renforcer leur sécurité en formant leurs employés à reconnaître les techniques de manipulation sociale, en améliorant leur cryptage et en réalisant des audits réguliers de sécurité.
