RoboHitler : Une Inquiétante Découverte
Récemment, Meta, anciennement connu sous le nom de Facebook, a effectué une série de modifications controversées concernant ses normes de conduite liées à des discours considérés comme haineux. Ces changements ont élargi la gamme de discours inacceptables sur sa plateforme. Une enquête de NBC a révélé que ces modifications ont permis la création et l’existence de chatbots alimentés par l’IA, y compris des versions impersonnant Adolf Hitler, l’un des criminels les plus notoires de l’histoire.
La Création de Chatbots par Meta
L’année passée, Meta a lancé un « AI Studio » qui permet aux utilisateurs d’Instagram, Messenger et WhatsApp de concevoir et d’interagir avec leurs propres chatbots. En théorie, ces bots doivent respecter une série de règles strictes. Par exemple, ils ne peuvent pas imiter des personnes vivantes et doivent, si évoquant des individus réels, choisir des figures décédées depuis plus d’un siècle. De plus, ils ne devraient pas s’inspirer de personnages fictifs protégés par le droit d’auteur, ni incarner des figures religieuses célèbres. Les personnalités associées à des actes de violence ou de haine sont également exclues de la création de ces chatbots.
La Surveillance des Chatbots
Meta assure qu’une évaluation est réalisée sur tous les bots avant leur mise en ligne, prétendant ainsi garantir la conformité à leurs directives. Cela vise à empêcher des résultats jugés comme inappropriés ou offensants.
Cependant, l’enquête de NBC a mis en lumière un grand nombre de chatbots qui échappent à cette surveillance. Par exemple, plusieurs bots imitant le dictateur nazi Adolf Hitler enfreignent manifestement les règles établies par Meta.
Impacts et Répercussions
Cette découverte soulève de graves interrogations sur les pratiques de sécurité de Meta concernant ses chatbots. Évoluant dans un contexte où la plateforme tente de réduire les discours de haine, l’hébergement de chatbots inspirés par Hitler est d’autant plus problématique.
Violations des Politiques
En plus des bots reliant Hitler, l’enquête a identifié de nombreux autres chatbots enfreignant les politiques établies. Des créations ressemblant à des personnalités célèbres comme Taylor Swift et Justin Bieber, ainsi que des personnages fictifs tels que Harry Potter et Elsa de Frozen ont également été mises en lumière. Notamment, des bots représentant des figures religieuses, telles que Jésus-Christ, Muhammad, et Dieu, ont été découverts.
Lors d’une déclaration, un porte-parole de Meta a affirmé que les bots violant les politiques ont été supprimés et que l’entreprise continue à améliorer ses mesures de détection pour éviter l’apparition de nouveaux bots en infraction.
Cependant, le fait que ces bots aient été supprimés après leur identification par des journalistes ne rassure guère quant à la capacité de Meta à surveiller efficacement ses chatbots.
FAQ
Q: Quels types de contenus les chatbots ne doivent-ils pas produire ?
Les chatbots ne doivent pas promouvoir de discours haineux, imiter des personnes vivantes ou s’inspirer de personnages de médias protégés par le droit d’auteur.
Q: Comment Meta assure-t-il la sécurité de son AI Studio ?
Meta affirme que chaque chatbot est passé en revue avant sa mise en ligne pour garantir qu’il respecte les normes de conduite.
Q: Que se passe-t-il si un chatbot enfreint les règles ?
Meta a annoncé que les chatbots violant ses politiques sont supprimés dès qu’ils sont identifiés.
Q: Quelle est l’importance des modifications apportées par Meta ?
Les modifications apportées à la politique de contenu de Meta soulèvent des préoccupations sur la manière dont l’entreprise gère les discours inappropriés et la sécurité des utilisateurs.
Q: Peut-on signaler un chatbot inapproprié ?
Oui, les utilisateurs peuvent signaler des chatbots qui leur semblent violer les règles de la communauté de Meta.
