Abonnez-vous pour découvrir le futur dès aujourd’hui.
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
</div>
</div>
Une équipe de chercheurs de Harvard et du MIT-IBM Watson AI Lab a développé un système capable de déterminer si un texte a été généré par une intelligence artificielle (IA). Leur objectif est de poser les bases d’outils futurs qui faciliteront la détection de faux commentaires et même d’articles d’actualités sur Internet.
Outil de Détection des Textes Générés par l’IA
L’outil, connu sous le nom de Giant Language Model Test Room, est destiné à aider les utilisateurs à identifier si un texte provient d’un modèle d’IA. D’après un prépublication de leur recherche partagée en juin sur arXiv, vous pouvez tester cette fonctionnalité par vous-même en cliquant ici.
La Nature du Texte Humain
Le principe fondamental de cet outil repose sur une observation simple : les textes rédigés par des humains sont souvent moins prévisibles dans leur construction que ceux générés par une IA.
Cependant, il existe des limites. Ce système n’est pas conçu pour détecter des abus à grande échelle, car il se concentre principalement sur l’évaluation de cas individuels.
Tout en améliorant le taux de détection des faux textes chez les humains, cet outil n’est pas à la hauteur de la perfection. Grâce à la comparaison avec plusieurs générateurs de texte IA, il a réussi à faire passer le taux de détection de 54 % à 72 % sans formation préalable.
Les chercheurs reconnaissent également que des générateurs futurs pourraient facilement tromper leur système. En modifiant les “paramètres d’échantillonnage” mots par mots ou phrase par phrase, il devient plus aisé d’imiter le style de la langue ciblée.
Plus sur les fausses nouvelles :De nouvelles IA génèrent des fausses nouvelles horriblement crédibles.
FAQ
Qu’est-ce que le Giant Language Model Test Room ?
C’est un outil développé pour aider à identifier si un texte a été créé par une intelligence artificielle, facilitant ainsi la détection des faux contenus.
Pourquoi est-il difficile de détecter les faux textes ?
Les nouvelles IA peuvent adapter leur génération de texte, rendant ainsi leur production de plus en plus similaire au langage humain, ce qui complique la tâche de la détection.
Comment fonctionne l’outil d’analyse ?
L’outil compare le texte à des modèles IA connus, évaluant ainsi la probabilité que le texte soit généré par une IA plutôt que par un humain.
En quoi le problème des fausses nouvelles est-il préoccupant ?
Les fausses nouvelles peuvent influencer l’opinion publique, rendre difficile la vérification de l’information et nuire à la confiance envers les médias et les institutions.
