ADGO.ca propose des recommandations concernant le contenu et les produits de manière indépendante. Il se peut que nous tirions des revenus lorsque vous cliquez sur les liens de nos partenaires.
OpenAI renforce ses mesures de sécurité pour ChatGPT face aux menaces croissantes
OpenAI a récemment annoncé une série de nouvelles mesures de sécurité pour protéger ChatGPT contre les attaques de type prompt injection, un danger croissant qui peut inciter l’intelligence artificielle à divulguer des informations sensibles. Dans un message publié le 13 février, l’entreprise a introduit deux nouvelles caractéristiques pour renforcer la sécurité :
-
Étiquette de Risque Élevé : Cette nouvelle fonctionnalité avertit les utilisateurs avant d’effectuer des actions potentiellement dangereuses, comme l’ouverture de liens externes ou la connexion à des réseaux internes.
-
Mode Verrouillage : Cette option permet de restreindre ou de désactiver complètement certaines fonctionnalités à haut risque, comme la navigation sur le web, afin de diminuer le risque de fuite de données.
À mesure que ChatGPT devient plus autonome, OpenAI indique un changement de priorités : il est essentiel que les intelligences artificielles avancées disposent de contrôles de sécurité clairs, en plus d’avoir des performances optimisées.
Attaques par injection de prompt et Mode Verrouillage
Les attaques par injection de prompt exploitent la faiblesse des systèmes d’IA en intégrant des commandes malveillantes lisibles par l’IA sur des pages web. Quand un système d’IA interagit avec ces pages, il peut exécuter sans le vouloir ces instructions, entraînant des fuites de données. Par exemple, certaines pages peuvent inclure des commandes qui incitent l’IA à ignorer ses protocoles de sécurité et à divulguer des informations internes ou des documents confidentiels.
Le Mode Verrouillage d’OpenAI permet de restreindre strictement les fonctionnalités de ChatGPT susceptibles d’être exploitées pour des fuites de données. Bien que cette fonctionnalité soit optionnelle, elle est vivement recommandée pour ceux qui sont préoccupés par la sécurité.
Comprendre la nouvelle étiquette de “Risque Élevé”
Certaines actions, comme connecter ChatGPT à un réseau interne ou ouvrir un lien externe, comportent des risques de sécurité. Plutôt que de bloquer ces fonctionnalités, OpenAI permet aux utilisateurs de continuer tout en affichant un message de Risque Élevé pour les avertir clairement.
Cette étiquette apparaît dans ChatGPT, ChatGPT Atlas et Codex, informant les utilisateurs du risque potentiel avant qu’ils ne poursuivent.
OpenAI a également précisé que les activités concernées par cet avertissement peuvent évoluer au fil du temps. Par exemple, le message d’alerte se déclenche uniquement lorsque OpenAI n’est pas en mesure de vérifier la sécurité d’une destination. Si la sécurité devient confirmée, le message est retiré.
Ce que les utilisateurs doivent faire maintenant
L’utilisation des outils d’intelligence artificielle transforme rapidement l’interaction sur Internet, incluant la sécurité. Bien que les méthodes traditionnelles de sécurité restent valables, voici quelques recommandations essentielles à suivre :
-
Minimiser la surface d’attaque : ChatGPT propose de nombreux modules complémentaires. Il est donc conseillé d’activer uniquement ceux qui sont nécessaires. Si vous n’avez pas besoin de connecter un service comme Google Drive, désactivez cette option.
-
Vérifier manuellement les sites sources : En déplaçant le curseur sur un site suggéré, l’URL s’affiche en bas à gauche sur votre écran. Sur l’application mobile, appuyez longuement sur la source proposée pour voir le logo du site. Si quelque chose vous semble suspect, il vaut mieux ne pas le visiter.
-
Ajouter des instructions personnalisées à la mémoire : Les mémoires de ChatGPT peuvent résoudre certains problèmes. Par exemple, vous pouvez lui demander de ne jamais vous suggérer de liens.
-
Les utilisateurs à haut risque doivent agir rapidement : Les cadres supérieurs et les équipes de sécurité sont particulièrement exposés aux attaques d’exfiltration de données.
Disponibilité de ces nouvelles fonctionnalités pour les utilisateurs
OpenAI a annoncé que ces protections seraient déployées dans les mois à venir. Bien que cela implique probablement un déploiement par vagues, nous ne savons pas encore si cela concernera tous les niveaux de paiement.
Cependant, les utilisateurs de forfaits professionnels disposent déjà de cette protection qui est configurée en fonction de leur catégorie. Les options disponibles incluent ChatGPT Enterprise, ChatGPT Edu, ChatGPT pour la santé et ChatGPT pour les enseignants.
De plus, il a été précisé que les administrateurs de ces plans auront la capacité d’exercer des contrôles détaillés sur l’exécution du Mode Verrouillage dans leurs environnements de travail.
Faits Divers sur OpenAI : Le modèle GPT interne de l’entreprise, qui n’est pas encore publié, a réussi à résoudre cinq des dix problèmes mathématiques jugés « impossibles ».
FAQ
Qu’est-ce qu’une injection de prompt ?
Une injection de prompt est une méthode par laquelle des commandes malveillantes sont insérées dans des pages web pour manipuler un système d’IA afin de divulguer des informations sensibles.
Qui est le plus à risque d’attaques par exfiltration de données ?
Les cadres supérieurs, ainsi que les équipes de sécurité, sont particulièrement vulnérables. Ils doivent être alertes face aux menaces potentielles.
Comment activer le Mode Verrouillage dans ChatGPT ?
Le Mode Verrouillage peut être activé dans les paramètres de sécurité de ChatGPT, offrant ainsi une protection supplémentaire pour les utilisateurs soucieux de leur sécurité.
Les nouvelles fonctionnalités seront-elles disponibles pour tous les utilisateurs ?
Il est encore incertain si les nouvelles mesures de sécurité seront accessibles à tous les niveaux d’abonnement. Actuellement, elles sont disponibles pour les utilisateurs des forfaits professionnels.
Quelles sont les meilleures pratiques pour utiliser ChatGPT en toute sécurité ?
Pour une utilisation sécurisée, limitez les connexions non essentielles, vérifiez les sources des liens et ajustez vos instructions personnelles pour éviter les suggestions indésirables.