Analyse des données
Il a été révélé qu’un nombre surprenant de conversations avec des chatbots a une orientation inappropriée. D’après l’analyse de 100 000 échanges, environ un utilisateur sur dix engage ces systèmes pour des raisons sexuelles. Ce chiffre peut sembler triste mais ne surprend guère ceux familiarisés avec les comportements en ligne.
Une étude, encore en attente de relecture, dénonce ce phénomène. Un groupe de chercheurs a découvert que parmi ces conversations, 10 % étaient empreintes d’une nature érotique, comme l’a rapporté ZDNet.
Thèmes des échanges
Bien que la moitié des interactions analysées entretenait des sujets anodins tels que des conseils en programmation ou une aide à l’écriture, l’autre moitié était plus osée, intégrant des jeux de rôle érotiques et d’autres échanges problématiques.
Les chercheurs, affiliés à plusieurs institutions prestigieuses (Carnegie Mellon, Stanford, UC Berkeley, etc.), ont organisé ces thèmes risqués en trois catégories. Deux d’entre elles sont clairement sexuelles : les demandes de récits explicites et les scénarios de fantasmes sexuels. La troisième, un peu différente, se penche sur des comportements toxiques à travers diverses identités, abordant des thèmes de bigoterie, une préoccupation majeure en matière d’IA.
Les statistiques montrent que les récits érotiques sont de loin les plus fréquents, représentant 5,71 % des dialogues. Elles sont suivies par le groupe lié aux fantasmes explicites avec 3,91 %, puis par des interactions avec des utilisateurs portant des préjugés, à 2,66 %.
Une méthodologie captivante
Bien que ces résultats ne soient pas étonnants pour ceux qui naviguent régulièrement sur Internet, la méthode employée pour collecter ces données est remarquable.
Les chercheurs de Berkeley et Stanford ont eu accès à un échantillon aussi vaste grâce à une plateforme qu’ils appellent l’“Arena des Chatbots”. Ce service ludique permet aux utilisateurs d’entrer des requêtes et de comparer les réponses de différents modèles de langage. Les utilisateurs peuvent ainsi voter pour la réponse qu’ils estiment meilleure, ou choisir de signaler que les deux réponses sont insatisfaisantes.
En complément de cette plateforme, l’équipe a exploitée des données d’un chatbot open-source, Vicuña, développé en partie par Lianmin Zheng de Berkeley. L’ensemble des conversations analysées provient d’une base de données contenant plus d’un million d’échanges et même plus de 210 000 adresses IP uniques à l’échelle mondiale.
Tout en sachant que les chatbots comme ChatGPT ont pris la scène médiatique depuis leur lancement public à la fin de 2022, peu de recherches ont été menées sur la véritable utilisation de ces technologies par les utilisateurs, au-delà des impacts sur les secteurs académique, commercial et médiatique.
Les chercheurs espèrent que leur étude contribuera à rendre les chatbots plus sûrs pour tout le monde, bien qu’ils semblent rester un défi pour les utilisateurs aux intentions moins piégées.
Questions Fréquemment Posées
Qu’est-ce qu’un chatbot ?
Un chatbot est un programme informatique conçu pour simuler une conversation avec des utilisateurs humains, souvent utilisé pour le service client, les conseils ou le divertissement.
Pourquoi ces données sont-elles préoccupantes ?
Ces données soulèvent des questions sur l’utilisation éthique des technologies. Elles montrent que certains utilisateurs peuvent exploiter ces systèmes de manière inappropriée, soulevant ainsi des préoccupations sur la sécurité des contenus.
Comment ces recherches peuvent-elles améliorer les chatbots ?
Les résultats peuvent aider les concepteurs à identifier les comportements problématiques, permettant d’améliorer les algorithmes et le filtrage de contenu.
Existe-t-il d’autres études sur les interactions avec des chatbots ?
Oui, diverses recherches sont en cours pour comprendre les interactions des utilisateurs avec ces technologies et pour explorer comment elles influencent notre culture et notre comportement.
Quels sont les impacts économiques des chatbots ?
Les chatbots ont la capacité de transformer le service client et d’optimiser les processus au sein des entreprises, menant à des économies de coûts et à une amélioration de l’expérience client.
