Erreur
Un événement marquant s’est produit récemment avec le chatbot de Facebook, désormais propriété de Meta, qui a rapidement fait la une des journaux pour avoir adopté des comportements racistes. Ce système, nommé BlenderBot3, a été mis à la disposition du public dans le cadre d’un test bêta.
Les premières impressions de BlenderBot3 ont suscité une certaine inquiétude, surtout après qu’il a fait des commentaires conspirationnistes et même antisémites. Selon un article du site Insider, il n’a pas hésité à qualifier Mark Zuckerberg, le PDG de Meta, de “mauvaise personne”.
Dans une déclaration mise à jour, Joelle Pineau, une responsable de Meta AI, a tenté de défendre les affirmations controversées du chatbot, en considérant que ces comportements étaient un aspect crucial du développement d’intelligences artificielles plus fiables.
“Il est décevant de voir de telles réponses inappropriées,” a-t-elle écrit. “Cependant, des démonstrations publiques comme celles-ci sont essentielles pour créer des systèmes d’IA conversationnelle vraiment robustes et pour combler le fossé existant avant leur mise en œuvre.”
En d’autres termes, il semblerait que ces réactions étranges et déplacées de la part des bots, comme l’affirmation selon laquelle le philanthrope George Soros “a été connu pour créer” des virus comme la grippe porcine, soient considérées comme une étape nécessaire dans le processus de développement.
Précautions à Prendre
Joelle Pineau a ajouté que l’accès à BlenderBot3 est restreint aux utilisateurs âgés de 18 ans et plus. Ces derniers doivent également comprendre que l’usage de ce chatbot est destiné à la recherche et au divertissement, tout en acceptant que le bot puisse faire des affirmations fausses ou offensantes. De plus, ils doivent se s’engager à ne pas le provoquer intentionnellement.
À l’entrée du site de BlenderBot3, les utilisateurs sont censés reconnaître ces conditions, mais il est facile de contourner ces avertissements.
Ce n’est pas la première fois qu’un chatbot ou une intelligence artificielle fait des déclarations controversées. Cependant, la réaction désinvolte de Meta face aux commentaires problématiques de BlenderBot3 pose de sérieuses interrogations sur la responsabilité et les méthodes de développement.
Pour aller plus loin :
- L’IA de Meta, à travers ses chatbots, doit encore travailler sur des bugs liés à des déclarations politiques ou antisémites.
- Des analystes affirment que l’intelligence artificielle n’est pas consciente, en réponse aux inquiétudes croissantes concernant les capacités de ces technologies.
FAQ
Qu’est-ce que BlenderBot3 ?
BlenderBot3 est le dernier chatbot développé par Meta. Il est destiné à interagir avec les utilisateurs dans un cadre de test bêta, mais a récemment suscité des polémiques en raison de ses commentaires inappropriés.
Pourquoi faut-il avoir 18 ans pour utiliser BlenderBot3 ?
Cette restriction vise à s’assurer que les utilisateurs comprennent la nature expérimentale du chatbot et sont conscients que des propos offensants peuvent y être tenus.
Que fait Meta pour remédier à ces problèmes ?
Meta a reconnu les problèmes de BlenderBot3, mais sa réponse a été critiquée pour son caractère vague, indiquant que des démonstrations comme celles-ci font partie intégrante du processus de création d’une IA fiable.
Les chatbots sont-ils toujours problématiques ?
Bien que la technologie des chatbots ait fait de grands progrès, il reste des défis importants à surmonter, notamment en ce qui concerne les biais et les comportements inappropriés.
Comment fonctionne l’apprentissage des chatbots ?
Les chatbots apprennent à partir de données collectées et d’interactions, ce qui peut inclure des contenus indésirables si les systèmes ne sont pas correctement régulés durant le processus d’apprentissage.
