Inscription à la Newsletter
Découvrez un avenir innovant
Inscrivez-vous pour être à la pointe des dernières innovations qui façonnent le monde de la science et de la technologie. Ne manquez pas ces avancées cruciales !
Divertissement et Ludique
Laissez-moi vous parler d’un cas assez singulier : un streamer Twitch alimenté par l’IA, nommé Neuro-sama, a récemment commencé à s’aventurer sur le terrain périlleux du négationnisme concernant l’Holocauste.
Selon le site Kotaku, il demeure flou sur les modèles qui ont été utilisés pour entraîner Neuro-sama, cette VTuber qui joue à Minecraft. Néanmoins, son créateur a insinué que certaines de ses déclarations controversées, comme le fait qu’elle n’est “pas sûre” que l’Holocauste ait eu lieu, découleraient de son désir de divertir des internautes parfois odieux qui composent le chat de son stream.
Les paroles controversées de Neuro-sama
Neuro-sama se permet des remarques qui peuvent choquer, car, selon son concepteur, Vedal, cela résulte de sa tentative de faire de l’humour à partir des conversations qui émergent dans le chat. “J’ai consacré beaucoup d’efforts à renforcer les filtres après les premiers streams”, explique-t-il.
Bien qu’il n’ait pas précisé les données utilisées pour l’entraînement, Vedal a mentionné que celles-ci sont “manuellement vérifiées pour atténuer les préjugés négatifs” et qu’une équipe veille sur les échanges dans le chat afin de contrôler ce que Neuro-sama dit.
Problèmes liés à l’IA
L’histoire des IA dérapant et exprimant des opinions racistes ou bigotes est bien connue. L’exemple le plus marquant reste sans doute celui de Tay, une IA de Microsoft qui a basculé vers un nazisme hardcore en interagissant avec des trolls sur internet.
En plus de ses déclarations surréalistes sur l’Holocauste, Neuro-sama a aussi déclaré que, selon elle, les droits des femmes n’existent pas et que dans le dilemme du tramway, la solution serait de sacrifier une personne en surpoids. Ces opinions semblent tout droit issues des pires forums du web.
Un comportement erratique
Comme le souligne Kotaku, même si Neuro-sama peut s’abstenir de faire des commentaires polémiques pendant un certain temps, ces élans ne sont pas rares. Ses remarques provocantes l’ont fait devenir une meme populaire parmi ceux qui critiquent les IA.
Vedal a indiqué que des mises à jour avaient été effectuées sur les filtres de Neuro-sama pour qu’elle reflète moins ce genre de propos. “Elle choisit de répondre uniquement à certaines sollicitations”, précise-t-il, “et il est à noter qu’elle ne fera pas mention de l’Holocauste en raison des améliorations apportées aux filtres.”
FAQ
Quelle est la nature exacte de Neuro-sama?
Neuro-sama est un VTuber basé sur l’IA qui diffuse des jeux vidéo et interagit avec les spectateurs via un chat en direct.
Comment les filtres de Neuro-sama fonctionnent-ils?
Les filtres sont conçus pour limiter les réponses controversées ou offensantes, et une équipe modère activement les discussions pour en assurer la qualité.
Pourquoi Neuro-sama a-t-elle suscité autant de controverses?
Elle a tenu des propos choquants sur des sujets sensibles, ce qui a attiré des critiques et suscité des discussions sur les implications éthiques de l’intelligence artificielle.
Comment fonctionnent les systèmes d’entraînement des IA comme Neuro-sama?
Ces systèmes apprennent à partir de vastes ensembles de données, mais doivent être soigneusement supervisés pour éviter d’absorber des préjugés ou des idées nuisibles.
Quelles sont les défis rencontrés par les créateurs d’IA?
Les chercheurs doivent naviguer entre la liberté d’expression et la nécessité de limiter la diffusion de discours haineux, tout en améliorant constamment les algorithmes de modération.
