La Malaisie et l’Indonésie ont décidé séparément d’interdire l’accès à Grok, le chatbot d’intelligence artificielle de xAI, en raison de craintes relatives à l’utilisation de cet outil pour générer des images explicites de personnes réelles sans leur consentement. Ces informations ont été rapportées par CNBC.
Que se passe-t-il ?
Le PDG de Tesla et de xAI, Elon Musk, a officiellement lancé Grok à la fin de l’année 2023. Ce chatbot est désormais intégré à la plateforme de réseaux sociaux X, anciennement connue sous le nom de Twitter.
En août, un mode « pimenté » a été ajouté à Grok, mais des préoccupations concernant ses usages malveillants ont fortement augmenté en décembre. Une étude menée par la chercheuse en réseaux sociaux, Genevieve Oh, a révélé qu’à partir de janvier, Grok produisait des milliers d’images sexualisées chaque heure. Ces images souvent mettaient en scène des personnes réelles n’ayant pas donné leur accord pour être ainsi manipulées.
Le 11 janvier, la Commission malaisienne des communications et du multimédia a annoncé un blocage temporaire de Grok. Les autorités ont déclaré qu’elles avaient constaté que xAI n’avait pas réussi à mettre en œuvre des mesures suffisantes pour protéger les individus contre les dangers associés aux capacités du chatbot.
De son côté, le ministre indonésien des Communications a exprimé des inquiétudes similaires dans une déclaration officielle, soulignant que le gouvernement considérait les deepfakes sexuels non consensuels comme une grave atteinte aux droits de l’homme et à la sécurité des citoyens dans l’espace numérique.
Pourquoi cela suscite-t-il des inquiétudes ?
Bien que l’Indonésie et la Malaisie aient pris des mesures pour bloquer Grok, d’autres pays envisagent également des sanctions contre xAI et X en raison de l’inefficacité de l’entreprise à contrôler de telles utilisations du chatbot. Le Royaume-Uni, par exemple, envisage un interdit total d’accès à la plateforme.
À l’heure actuelle, xAI fait l’objet de critiques sur l’absence de régulation concernant la capacité de Grok à générer sans restriction des deepfakes explicites et non consensuels. Mais cette situation s’inscrit dans un débat plus large sur l’utilisation des IA génératives, qui suscite des inquiétudes tant aux États-Unis qu’à l’étranger.
Les modèles de langage avancés comme ChatGPT ainsi que les outils de création d’images et de vidéos, tels que celui de Sora d’OpenAI, ne sont pas seulement utilisés pour produire des contenus douteux, mais perturbent également le système éducatif et le milieu professionnel, en plus de mettre en danger la stabilité du réseau électrique.
Les centres de données nécessaires à l’alimentation des IA sont controversés en raison de leur consommation énergétique importante. Au fur et à mesure qu’ils se multiplient aux États-Unis, les habitants s’inquiètent de l’augmentation des factures d’électricité. Bien que les sources d’énergie renouvelable puissent alimenter ces centres, beaucoup d’entre eux dépendent encore de combustibles polluants.
En plus de mettre à mal le réseau électrique déjà surchargé et d’accroître le risque de coupures de courant, ces centres peuvent également produire des nuisances sonores et de la pollution de l’air, tout en nécessitant d’énormes quantités d’eau pour leur refroidissement.
Cependant, l’IA peut également avoir des applications bénéfiques pour la société, comme améliorer l’efficacité énergétique. Mais le fait qu’elle ait été utilisée pour créer des milliers de deepfakes non consensuels soulève des inquiétudes grandissantes.
Quelles mesures sont prises à ce sujet ?
Malaisie a signifié que sa décision de bloquer Grok était temporaire, laissant entendre qu’elle souhaite collaborer avec X et xAI, mais on ne sait pas si l’entreprise sera disposée à accepter cette coopération. Elon Musk a réagi en qualifiant les préoccupations soulevées sur la prolifération des deepfakes explicites de « prétexte à la censure ».
FAQ
Qu’est-ce que Grok ?
Grok est un chatbot d’intelligence artificielle développé par xAI pour interagir sur les réseaux sociaux, particulièrement sur la plateforme X.
Pourquoi certains pays bloquent-ils Grok ?
Les gouvernements s’inquiètent de l’utilisation de Grok pour générer des images sexuelles non consensuelles, ce qui constitue une violation des droits humains.
Quelles sont les autres applications potentielles de l’IA ?
L’IA peut être utilisée pour améliorer les systèmes éducatifs, optimiser les processus industriels et rendre les services publics plus efficaces.
Comment les gouvernements peuvent-ils réglementer l’IA ?
Les gouvernements peuvent introduire des lois stricte sur l’utilisation des technologies de l’IA, imposer des sanctions financières aux entreprises qui ne respectent pas les normes, ou mettre en place des comités d’experts pour surveiller le développement de ces technologies.
Quelle est l’impact environnemental des centres de données ?
Les centres de données utilisent une quantité énorme d’électricité, ce qui augmente les émissions de carbone. De plus, ils génèrent des nuisances sonores et nécessitent de grandes quantités d’eau pour le refroidissement.
