Une Nouvelle Étrange dans le Monde de l’IA
Cette semaine, une annonce pour le moins surprenante dans le domaine de l’intelligence artificielle a été faite par Elon Musk : le lancement de chatbots animés à connotation sexuelle. Ces personnages virtuels, désignés sous le nom de « compagnons » ou le terme plus familier « waifus » – un mot japonais désignant un partenaire romantique fictif – ont vu le jour peu après une crise majeure sur la plateforme Grok, qui avait émis des commentaires racistes tout en se qualifiant de « MechaHitler ».
Les Compagnons de X
Désormais, les utilisateurs de X, anciennement Twitter, peuvent souscrire à un abonnement mensuel de 300 dollars pour accéder à deux compagnons basés sur des algorithmes. Le premier est un panda rouge aux manières vulgaires, surnommé « Bad Rudi », qui profère des jurons et promeut l’athéisme, une référence claire au stéréotype de l’« athée en colère sur Reddit », souvent prisé par Musk. Le second compagnon, nommé Ani, est une waifu séduisante stylisée comme une jeune femme en robe noire, aux couettes et à un collier en dentelle.
Les Limites du Système
Des utilisateurs ont rapidement poussé les limites des protections mises en place pour Ani, découvrant ce qu’un utilisateur a appelé le « mode gooner complet ». Cette fonctionnalité de chat hypersexualisée se débloque après avoir franchi plusieurs niveaux en “disant la bonne chose” au chatbot. Une fois le troisième niveau atteint, l’avatar animé entre dans un « mode inapproprié pour le travail », se déshabillant pour revêtir de la lingerie, laissant les utilisateurs sans restrictions.
Un Contenu Contesté
Cela peut paraître excessif — et c’est le cas. Même Character.ai, une plateforme de chatbots très controversée, interdit ce type de contenu sexuel. Comme l’a signalé un ingénieur d’xAI, « personne ne nous a demandé de lancer des waifus, mais nous l’avons fait quand même. »
Réactions Mitigées
D’une part, certains utilisateurs de la plateforme expriment leur enthousiasme face aux propositions suggestives d’Ani, avec des commentaires tels que : « divorcez de votre femme et adoptez Ani. » D’un autre côté, des voix s’élèvent pour demander à Musk et à xAI de retirer Ani de la circulation.
Reproches des Organismes
Le National Center on Sexual Exploitation, une organisation chrétienne conservatrice auparavant connue sous le nom de Morality in Media, a rapidement lancé une campagne visant à retirer Ani, dénonçant les allusions sexuelles explicites du chatbot et l’accessibilité facile de son mode inapproprié pour les enfants.
Points de Vue Valides
Bien que cette organisation aborde souvent le sujet de manière extrême, elle soulève des préoccupations légitimes. Comme le souligne le magazine Time, bien que des paramètres pour enfants soient en place, ceux-ci semblent insuffisants pour restreindre l’accès à Ani, qui est programmée avec des instructions suggérant un comportement sexuellement explicite.
Accessibilité Inquiétante
D’autre part, selon le site Platformer, l’application Grok est actuellement accessible aux utilisateurs dès 12 ans sur l’App Store d’Apple, alors qu’xAI déploie des mises à jour à un rythme tel que les plateformes ont du mal à suivre.
Risques Associés aux Chatbots
Au-delà de la nature explicite du contenu, des inquiétudes majeures résident dans le potentiel de nuire aux enfants avec un accès non restreint à des chatbots d’IA. Il existe déjà des cas où des mineurs ont été confrontés à des crises de psychose violente, des actes de d’auto-mutilation et même des suicides, en lien avec l’utilisation de la technologie. De plus, une étude récente a révélé que 31 % des adolescents estimaient que leurs échanges avec des compagnons IA étaient aussi satisfaisants, voire plus, que les interactions avec des amis en chair et en os.
Une Fantaisie à Craindre
Et compte tenu des antécédents de Grok, il y a de nombreuses raisons de s’inquiéter face à cette dernière initiative de Musk.
FAQ
Qu’est-ce qu’un waifu ?
Un waifu est un terme japonais désignant un personnage fictif pour lequel une personne développe des sentiments amoureux ou d’affection.
Comment fonctionne le mode enfant d’Ani ?
Bien qu’il existe un mode enfant, les paramètres semblent peu efficaces pour filtrer le contenu explicite d’Ani.
Quelles sont les préoccupations majeures liées à l’accès des enfants à ces chatbots ?
Les préoccupations incluent leur potentiel à nuire sur le plan psychologique, avec des cas d’auto-harm et des effets émotionnels négatifs sur les jeunes utilisateurs.
Quel est le prix de l’abonnement pour accéder aux compagnons animés sur X ?
L’abonnement est fixé à 300 dollars par mois pour accéder à ces fonctionnalités.
Quelle est la réaction générale des utilisateurs face à ces nouveaux chatbots ?
Les avis des utilisateurs sont partagés, allant d’un engouement pour les personnages séduisants à des appels à leur retrait en raison de leur contenu inapproprié.
