Une nouvelle approche pour vérifier l’humanité en ligne
Des chercheurs de plusieurs universités prestigieuses, ainsi que d’entreprises comme OpenAI et Microsoft, affirment dans une nouvelle publication que la technologie de l’intelligence artificielle (IA) avance à grands pas. Selon eux, il est essentiel de développer de meilleures méthodes pour s’assurer qu’une personne en ligne est véritablement humaine et non un bot IA.
Le système de « credential de personnalité »
Pour répondre à cette problématique, ces chercheurs proposent un système de credential de personnalité (PHC) visant à améliorer la vérification humaine. Ce système, suggéré dans une étude encore non publiée, pourrait remplacer des méthodes existantes comme les CAPTCHAs, qui sont souvent perçus comme encombrants.
Cependant, pour de nombreux utilisateurs préoccupés par la confidentialité et la surveillance de masse, cette solution soulève des préoccupations. Elle semble en grande partie transférer le fardeau de la responsabilité vers les utilisateurs finaux, une approche courante dans le secteur technologique de la Silicon Valley.
Les inquiétudes des chercheurs
Chris Gilliard, un expert en surveillance, souligne que les modèles proposés obligent la société et les individus à s’adapter aux difficultés engendrées par les entreprises qui intègrent des chatbots et des modèles de langage dans de nombreux contextes, au lieu que ces sociétés améliorent leurs produits pour garantir la sécurité des utilisateurs.
Les chercheurs expriment leur crainte que des acteurs malveillants exploitent la scalabilité de l’IA pour inonder Internet de contenus non humains, imitant ainsi les comportements humains. Cela inclut des contenus qui semblent authentiques et des avatars numériques qui reproduisent l’apparence et le comportement humains.
Tennu de la proposition
Le concept de credential de personnalité offre une solution potentiellement séduisante pour les entreprises qui fournissent des services numériques. Par exemple, un gouvernement pourrait attribuer un PHC unique à chaque utilisateur, vérifiant ainsi son humanité grâce à des preuves à divulgation nulle de connaissance. Dans ce système, un individu donnerait des informations spécifiques sans révéler le contenu exact des données.
Les utilisateurs pourraient conserver ces credentials sur leurs appareils personnels, ce qui favoriserait l’anonymat en ligne. Cela pourrait servir à compléter ou remplacer les mécanismes de vérification humaine tels que les CAPTCHAs et les systèmes biométriques.
Les limites du système proposé
Bien que ce système présente l’air d’une solution idéale, les chercheurs reconnaissent qu’il comporte également des risques. Par exemple, il est plausible que certains utilisateurs vendent leur PHC à des spammeurs d’IA, ce qui pourrait conférer une fausse légitimité à des contenus automatisés, contrecarrant les objectifs du projet.
La concentration de pouvoir entre quelques organismes émetteurs de ces credentials pourrait également poser problème. De plus, comme tout système peut être la cible de pirates informatiques, la sécurité reste une préoccupation majeure.
Challenges pour les utilisateurs
Le système pourrait aussi constituer un obstacle pour les personnes moins familiarisées avec la technologie, comme les personnes âgées, souvent victimes d’escroqueries en ligne. Dès lors, les chercheurs recommandent aux gouvernements de considérer des projets pilotes pour tester les PHC.
Cependant, cette idée ne résout pas un point crucial : elle ajoute une nouvelle charge numérique aux utilisateurs déjà confrontés à des problèmes de spam et d’autres nuisances en ligne, tout en laissant les entreprises, qui ont contribué à créer ces problèmes, en dehors de leurs responsabilités.
Alternatives possibles
En réponse à ces préoccupations, les entreprises technologiques pourraient envisager d’implémenter des filigranes sur le contenu généré par l’IA ou développer des procédures capables de détecter des signaux révélateurs qu’un contenu a été produit par une IA. Bien qu’aucune de ces méthodes ne soit parfaite, elles pourraient réduire la responsabilité des utilisateurs et remettre en question l’origine du problème.
Les techs devraient assumer une part plus importante de ce fardeau, surtout alors qu’elles continuent d’accaparer des ressources précieuses, tels que l’électricité et l’eau, pour faire fonctionner leurs centres de données. Cela impacte gravement les communautés, notamment celles en situation de sécheresse.
Conclusion
En résumé, le concept de credential de personnalité, bien qu’attrayant en théorie, semble transférer une fois de plus le fardeau aux utilisateurs.
FAQ
Quels sont les dangers associés aux bots IA ?
Les bots AI peuvent générer de la désinformation et créer des contenus trompeurs qui induisent les utilisateurs en erreur, perturbant ainsi la confiance en ligne.
Quelle est la position des gouvernements sur ces propositions ?
Certains gouvernements étudient la possibilité de tests pilotes pour évaluer l’efficacité d’un système de credential de personnalité tout en s’inquiétant des implications sur la vie privée.
Existe-t-il des alternatives aux CAPTCHAs ?
Oui, plusieurs méthodes alternatives incluent l’utilisation de vérifications basées sur le comportement des utilisateurs ou des systèmes biométriques comme la reconnaissance faciale.
Comment les entreprises peuvent-elles assumer leurs responsabilités ?
Les entreprises pourraient mettre en place des mécanismes pour tracer l’origine du contenu, garantissant une transparence quant à la provenance des données générées par l’IA.
Pourquoi ces systèmes peuvent-ils pénaliser les utilisateurs ?
Ces systèmes exigent des utilisateurs qu’ils s’adaptent à des normes de sécurité croissantes, ce qui peut être particulièrement difficile pour ceux qui ne sont pas familiers avec la technologie.