Une nouvelle fonctionnalité préoccupante pour ChatGPT
OpenAI a récemment introduit une fonctionnalité pour l’application de bureau de ChatGPT sur macOS, qui a généré des inquiétudes en matière de vie privée. Cette option, intitulée “Historique de l’ordinateur”, permet à l’IA de suivre vos clics, vos touches et d’autres interactions pour affiner son modèle. L’entreprise a reconnu que cela susciterait des préoccupations évidentes en matière de confidentialité.
Comment ça fonctionne ?
Ari Weinstein, responsable produit et ingénierie chez OpenAI, a indiqué que cette fonctionnalité permet à ChatGPT d’apprendre à partir de toutes vos actions sur l’ordinateur. Cela inclut la possibilité pour l’IA de terminer des tâches que vous avez commencées et de proposer des compétences ou automatisations adéquates. En somme, le logiciel crée un chronologie de vos actions, qu’il utilise pour s’adapter à votre façon de travailler.
Un accès impressionnant aux données personnelles
L’étendue de l’accès que ce logiciel a à votre vie numérique est impressionnante, voire déconcertante. Dans une démonstration vidéo, Dominik Kundel d’OpenAI, a posé une question à ChatGPT en mode vocal, demandant le dernier document Google consulté. L’IA a immédiatement fourni le nom du document et a même vérifié s’il avait été partagé dans une discussion de groupe.
Kundel a précisé que grâce au contexte, l’IA savait précisément quels messages évaluer, et un aperçu de son “raisonnement” montre qu’il explorait son historique Slack.
Préoccupations sur la vie privée
OpenAI assure que la fonctionnalité “Historique de l’ordinateur” est facultative : les utilisateurs doivent choisir d’en bénéficier et peuvent exclure certains contenus, notamment ceux en mode incognito. De plus, les utilisateurs ont la possibilité de bloquer manuellement certaines applications afin qu’elles ne soient pas suivies. Ils peuvent également consulter une base de données de la mémoire de l’IA et supprimer ce qu’ils jugent indésirable.
Malgré ces mesures, cette fonctionnalité représente tout de même beaucoup d’accès pour un modèle d’IA. Si un utilisateur accepte de partager ses données, cela peut ne pas s’appliquer aux personnes avec qui il communique en message privé, car ces conversations peuvent également être analysées par l’IA sur Slack ou d’autres plateformes.
Réaction du public
De nombreux utilisateurs des réseaux sociaux ont qualifié cette fonctionnalité de disgracieuse. Elle a été comparée à Windows Recall de Microsoft, une fonctionnalité qui prenait continuellement des captures d’écran de votre bureau et les stockait dans une base de données, ce qui avait soulevé d’importantes questions de sécurité. Les premières versions de Recall avaient été entachées de controverse après que des utilisateurs aient découvert qu’il enregistrait des informations sensibles, comme des numéros de sécurité sociale, sans aucune forme de cryptage.
Bien qu’OpenAI n’utilise pas de captures d’écran pour “Historique de l’ordinateur”, reposant plutôt sur des événements et interactions, il n’est pas difficile d’imaginer que l’IA puisse occasionnellement accéder à des informations qu’elle ne devrait pas voir. OpenAI avertit d’ailleurs dans un avis que les fichiers générés peuvent contenir des informations sensibles et ne sont pas cryptés, ce qui signifie que d’autres programmes pourraient potentiellement y avoir accès.
Conclusion
L’innovation apportée par OpenAI soulève des questions importantes sur la gestion et la protection des données personnelles dans un environnement numérique en constante évolution. Les bénéfices de l’introduction de nouvelles fonctionnalités doivent s’accompagner d’un examen minutieux des implications sur la confidentialité.
FAQ
Qu’est-ce que l’Historique de l’ordinateur ?
L’Historique de l’ordinateur est une fonctionnalité de ChatGPT qui permet de suivre les actions de l’utilisateur sur son ordinateur afin d’améliorer l’IA.
Quelle est la différence entre opt-in et opt-out ?
Opt-in signifie que l’utilisateur doit choisir de participer à une fonctionnalité, tandis qu’opt-out signifie que l’utilisateur doit désactiver une fonctionnalité s’il ne souhaite pas y participer.
Quelles mesures de protection sont en place pour les données sensibles ?
OpenAI affirme que l’Historique de l’ordinateur ignore le contenu des sessions en mode incognito et que les utilisateurs peuvent bloquer des applications du suivi.
Comment puis-je supprimer des éléments de l’historique de l’ordinateur ?
Les utilisateurs peuvent consulter une base de données construite par l’IA et retirer les éléments qu’ils ne souhaitent pas conserver.
Pourquoi les utilisateurs s’inquiètent-ils de cette fonctionnalité ?
Les préoccupations résident principalement dans l’ampleur de l’accès accordé à l’IA, surtout concernant les informations personnelles et la possibilité que des données sensibles soient collectées sans consentement explicite de toutes les parties impliquées.
