Sources Peu Fiables
Selon un récent article de Forbes, un outil de recherche en intelligence artificielle nommé Perplexity, qui fait beaucoup parler de lui et qui est soutenu par des investissements conséquents, se retrouve en pleine tourmente à cause de cas de plagiat et d’allégations sur la récupération secrète de données sur le web. Cet outil serait en train de citer des contenus générés par des IA de mauvaise qualité provenant de blogs peu fiables et de publications LinkedIn mal informées.
La source de ce rapport est une étude approfondie de Perplexity réalisée par GPTZero, une start-up qui détecte le contenu généré par IA. Edward Tian, le PDG de GPTZero a souligné qu’il a remarqué une augmentation significative des sources citées par Perplexity, qui sont également générées par une IA. En examinant les réponses fournies par Perplexity, il a découvert que certaines d’entre elles véhiculaient des informations erronées et désuètes provenant de ces sources générées par IA.
En résumé, cela crée un cercle vicieux de désinformation où les erreurs et les fabrications de l’IA infiltrent les réponses d’un autre système d’IA. Pour une start-up qui prétend révolutionner l’accès à l’information avec des sources fiables et des données à jour, cela jette un mauvais éclairage sur ses promesses.
« Perplexity est aussi bon que ses sources », observe Tian. « Si les sources sont des illusions générées par IA, alors les résultats le sont aussi. »
Manque de Fiabilité
Prenons comme exemple la réponse de Perplexity à la requête concernant les « festivals culturels à Kyoto, Japon ». Au lieu de fournir une liste diversifiée basée sur des sources fiables, l’outil a mentionné uniquement une source : un billet de blog obscur publié sur LinkedIn en novembre 2023, qui semble lui-même être généré par une IA. C’est loin d’être les médias d’information, les publications académiques, et les blogs établis que Perplexity prétend utiliser pour construire ses réponses.
Cette situation est préoccupante. Dans un autre exemple, Forbes et Tian ont remarqué que, lorsque l’on demandait des « alternatives à la pénicilline pour traiter les infections bactériennes », Perplexity avait cité un blog médical, probablement généré par une IA, qui se disait appartenir au réseau Penn Medicine. Ce billet contenait des informations médicales conflictuelles et peu fiables, ce qui s’est reflété dans les réponses fournies par Perplexity.
Si vous êtes méfiant envers les outils de détection basés sur l’IA, c’est tout à fait compréhensible. Toutefois, les informations rapportées par Tian et Forbes montrent que ces sources présentent des signes révélateurs de leur génération par IA. De plus, Forbes a vérifié les résultats obtenus avec une seconde méthode de détection d’IA, DetectGPT, confirmant les constatations de GPTZero.
Le directeur commercial de Perplexity, Dmitry Shevelenko, a déclaré à Forbes que l’entreprise a mis au point des algorithmes internes pour détecter si un contenu est généré par une IA. Cependant, il a admis que ces systèmes ne sont pas encore parfaits et nécessitent des ajustements continus, surtout avec l’avancement des technologies d’IA.
Il est indéniable que, lorsque votre produit se positionne comme offrant uniquement des informations de haute qualité provenant de sources autorisées, la capacité de vos algorithmes à distinguer entre le bon et le mauvais est critique.
Conclusion
Pour conclure, Perplexity se revendique comme une source incontestée d’information, mais les preuves actuelles remettent en question cette affirmation.
FAQ
Qu’est-ce que Perplexity ?
Perplexity est un outil de recherche alimenté par l’intelligence artificielle qui vise à fournir des réponses rapides et précises à partir de diverses sources d’information.
Quelles sont les conséquences des sources peu fiables pour Perplexity ?
L’utilisation de sources de mauvaise qualité peut entraîner la diffusion de désinformation et nuire à la crédibilité de l’outil, affectant les utilisateurs qui se fient à ses réponses.
Comment Perplexity vérifie-t-il les sources qu’il utilise ?
Perplexity prétend utiliser des algorithmes internes pour évaluer la fiabilité des sources, mais leur efficacité reste incertaine, et des ajustements sont nécessaires.
Pourquoi la détection des contenus d’IA est-elle importante ?
Il est essentiel d’identifier le contenu généré par l’IA car cela peut influencer la fiabilité de l’information, surtout dans des domaines critiques comme la santé ou l’éducation.
Que devraient faire les utilisateurs avec ces résultats ?
Les utilisateurs doivent faire preuve de prudence et vérifier les informations fournies par Perplexity à partir de sources fiables avant de les considérer comme exactes.
