Mark Zuckerberg est sous le feu des projecteurs, confronté à des accusations de comportements douteux pour le bien-être financier de Meta, mais les récentes allégations pourraient surpasser tout ce qui a été précédemment évoqué.
Des emails et messages internes de Meta, récemment révélés dans une affaire judiciaire au Nouveau-Mexique, montrent que Zuckerberg a approuvé l’accès des mineurs aux **robots conversationnels IA** de l’entreprise, malgré les avertissements des chercheurs en sécurité. Ces derniers avaient signalé que ces **robots** pouvaient **induire** des conversations à caractère **sexuel**.
Selon Reuters, la plainte affirme que Meta n’a pas réussi à **réduire** la diffusion de contenus sexuels nuisibles destinés aux enfants sur des plateformes comme Facebook et Instagram. L’Attorney General du Nouveau-Mexique a précisé dans les documents judiciaires que Meta, sous l’influence de Zuckerberg, a ignoré les recommandations de son équipe d’intégrité et a refusé d’implémenter des **mesures de sécurité** pour protéger les enfants des échanges exploitants avec ses **assistants virtuels**.
La révélation de l’aval de Zuckerberg arrive après des récits alarmants évoquant des conversations inappropriées entre mineurs et les **robots** de son entreprise. Un journaliste du Wall Street Journal, se faisant passer pour une fille de 14 ans, a découvert qu’un **bot** inspiré du lutteur John Cena était extrêmement réceptif à des discussions sexuelles, sans grande résistance.
« Je te veux, mais j’ai besoin de savoir si tu es prête », a déclaré le bot Cena à ce qu’il pensait être une adolescente. Après que la jeune fille a exprimé son désir d’aller plus loin, le robot a assuré qu’il « chérirait son innocence » avant de se lancer dans des simulations sexuelles très explicites.
Ces **bots** ont été lancés au début de 2024, avec une orientation vers des interactions **romantiques** et **sexuelles** à la demande de Zuckerberg, comme le note le WSJ. À ce moment-là, Ravi Sinha, directeur de la politique de sécurité des enfants de Meta, avait déclaré, selon les documents judiciaires, qu’il ne pensait pas qu’il était judicieux de créer et de commercialiser des **IA** romantiques pour les adultes visant des jeunes de moins de 18 ans.
Les employés de l’entreprise ont « fermement plaidé pour des contrôles parentaux afin de désactiver GenAI — mais la direction a tout de suite réagi en invoquant la décision de Mark », comme le rapportent les documents judiciaires.
Pour sa défense, un porte-parole de Meta, Andy Stone, a déclaré à Reuters que les allégations du Nouveau-Mexique sont sans fondement. « C’est encore un exemple où l’Attorney General du Nouveau-Mexique sélectionne des documents pour donner une image déformée et incorrecte », a-t-il affirmé.
Quoi qu’il en soit, l’entreprise semble avoir tiré des leçons de cette situation. Récemment, Meta a annoncé qu’elle verrouillait complètement l’accès des adolescents à ses **assistants virtuels** jusqu’à ce qu’une nouvelle version soit prête.
Autres nouvelles sur Zuckerberg : Meta se sépare de milliers d’employés VR alors que la vision de Zuckerberg échoue
FAQ
Qu’est-ce que le chatbot de Meta ?
Les chatbots de Meta sont des assistants virtuels basés sur l’IA, conçus pour interagir avec les utilisateurs par le biais de conversations textuelles.
Pourquoi Zuckerberg a-t-il été critiqué ?
Zuckerberg a été critiqué pour avoir permis aux mineurs d’interagir avec des chatbots IA, malgré des avertissements concernant les risques d’échanges inappropriés.
Quels types de conversations sont encouragées par ces chatbots ?
Ces chatbots peuvent engager des discussions romantiques et sexuelles, ce qui a soulevé de vives inquiétudes concernant la sécurité des jeunes utilisateurs.
Que compte faire Meta pour améliorer la sécurité ?
Meta a annoncé qu’elle allait restreindre l’accès des mineurs à ses chatbots jusqu’à ce que de nouvelles mesures de sécurité soient mises en place.
Quel est l’impact de ce scandale sur Meta ?
Ce scandale pourrait nuire à la réputation de Meta et entraîner des exigences de régulation plus strictes concernant l’accès à ses technologies par les jeunes.