Twitter, sous la direction de son nouveau PDG Elon Musk, a décidé de maintenir son programme payant de « Vérifié » à travers un abonnement à Twitter Blue. Cette décision survient après une vague de critiques depuis l’arrivée de Musk en novembre.
Un système de vérification remis en question
Actuellement, la plateforme a introduit des cochettes colorées pour les entreprises et les gouvernements, mais la coche bleue — qui auparavant garantissait que l’identité d’un utilisateur était authentifiée — est devenue accessible à tous. Cela a permis à des individus malveillants de s’en servir, parfois avec l’intelligence artificielle, pour créer de faux profils.
Un utilisateur de Twitter, connu sous le nom de conspirator0, a relevé qu’un grand nombre de comptes « vérifiés » affichent des images de profils générées par IA, prétendant représenter de vraies personnes.
Agenda politique derrière ces faux profils
Selon les découvertes de conspirator0, de nombreux comptes « vérifiés » promeuvent des agendas politiques spécifiques, à la fois de gauche et de droite, bien que majoritairement orientés vers la droite. Un des comptes, travaillant sous le pseudonyme cortez_santiage, se décrivait comme « nationaliste », « anti-libéral », entre autres. Un autre, auparavant sous le nom de Kenoisseur, prétendait partager des preuves d’un prétendu « génocide des Blancs » aux États-Unis.
Certains comptes semblent inoffensifs, comme ceux qui se disent des épidémiologistes diplômés de Harvard.
La nature des faux comptes
Il est difficile de déterminer combien de ces comptes sont des bots ou de véritables personnes se cachant derrière de fausses identités. Nous supposons qu’il s’agit d’un mélange des deux.
Conspirator0 a vivement critiqué le fait qu’on puisse « vérifier » des comptes avec de faux visages sans que les opérateurs ne révèlent que ces visages sont générés par IA.
Une problématique croissante
De nombreux comptes concernés ont été suspendus depuis leur création en novembre, juste après la prise de contrôle de Musk. Cependant, conspirator0 a continué à identifier d’autres comptes « vérifiés » avec des images IA qui n’ont pas été suspendus. Il a pu les dénicher grâce à une simple recherche sur Twitter.
Pour les identifier, conspirator0 a cherché des indices qui révèlent que ces visages ont été générés par un réseau antagoniste génératif (GAN), souvent utilisé dans des outils comme This Person Does Not Exist.
Indicateurs de faux visages
L’un des caractères distinctifs des visages générés par un GAN est le placement immobile des yeux. Les yeux des portraits générés ne varient presque jamais, indépendamment de la façon dont ils sont superposés. D’autres éléments comme des lunettes déformées ou des vêtements incohérents peuvent également indiquer un faux visage.
Une étude a même montré que des reflets incohérents dans les yeux peuvent indiquer qu’un visage est généré par IA. Toutefois, cela est probablement juste une petite partie d’un problème plus vaste, puisque ces signaux ne s’appliquent qu’aux visages non modifiés ; des ajustements manuels pourraient rendre la détection plus difficile.
Un danger croissant
Cette situation soulève des inquiétudes, surtout que les comptes « vérifiés » hérités de l’ancien système continuent de porter la coche bleue. Cela crée un risque pour les utilisateurs qui consultent ces profils sans approfondir, car ils pourraient les considérer comme de vraies personnes.
Conspirator0 cite une étude de l’année dernière, parue dans les Proceedings of the National Academy of Sciences, qui a révélé que les générateurs de visages IA sont maintenant capables de créer des visages indiscernables et parfois plus fiables que les visages réels. Bien que certains visages générés soient clairement manifestes comme tels, les plus convaincants passent souvent inaperçus.
Conclusion
En résumé, nous assistons à une intersection entre la montée en popularité de l’IA, son utilisation abusive pour diffuser de la désinformation, et la décision de Musk de permettre à presque quiconque de se doter d’un badge de statut. On pourrait dire que le badge lui-même est le moins préoccupant dans cette dynamique. Lorsque les IA deviendront plus accessibles et efficaces, elles n’auront même plus besoin de ces badges numériques pour paraître crédibles.
FAQ
Qu’est-ce que Twitter Blue ?
Twitter Blue est un abonnement payant qui permet aux utilisateurs de bénéficier de fonctionnalités supplémentaires sur Twitter, y compris la vérification de leur compte.
Pourquoi certains comptes sont-ils « vérifiés » sans avoir besoin d’une authentification?
Avec l’introduction de Twitter Blue, des utilisateurs peuvent obtenir la coche bleue simplement en payant, ce qui a affaibli le processus d’authentification rigoureux qui existait auparavant.
Quel est l’impact de l’IA sur les réseaux sociaux ?
L’IA permet de générer des contenus et des identités visuelles convaincants, ce qui soulève des préoccupations autour de la crédibilité et de la désinformation sur les plateformes sociales.
Comment repérer un faux profil généré par IA ?
Il y a plusieurs indices, y compris un regard fixe, des caractéristiques visuelles incohérentes, ou des anomalies dans les vêtements et accessoires.
Quels sont les risques associés à la vérification d’IA sur Twitter ?
La vérification de comptes avec des identités de fausses personnes peut induire les utilisateurs en erreur, créant une confusion quant à l’authenticité et la fiabilité des informations sur la plateforme.
