Les outils de détection de tricherie des écoles identifient à tort de véritables essais comme générés par IA.

<p class="pw-incontent-excluded article-paragraph skip">Environ 2,1 millions d'enseignants aux États-Unis utilisent un nouvel outil de détection d'IA développé par **Turnitin**. Selon un rapport du <em>Washington Post</em>, ceci vise à attraper les élèves en train d'utiliser des outils comme **ChatGPT** pour tricher en classe.</p>

<p class="article-paragraph skip">Cependant, il apparaît que cet outil ne parvient pas à remplir sa mission, ce qui entraîne des accusations infondées à l'encontre des étudiants soupçonnés d’avoir utilisé des outils d'IA pour leurs devoirs. C'est une conséquence préoccupante de rendre ces outils accessibles à presque quiconque disposant d'une connexion Internet.</p>

<p class="article-paragraph skip">Bien que les **chatbots d'IA** soient en pleine expansion et continuent de s'améliorer, les outils capables de différencier les textes générés par l'IA de ceux écrits par des humains accusent un retard significatif.</p>

<p class="article-paragraph skip">En d'autres termes, nous faisons face à un problème majeur sans solution claire, mettant les enseignants et les élèves dans une situation délicate.</p>

<p class="article-paragraph skip">Geoffrey Fowler du <em>WaPo</em> a testé l'outil de détection de Turnitin avec l'aide de cinq élèves de lycée. Sur un échantillon de 16 essais, comprenant des travaux écrits par des humains, générés par l'IA et des mélanges des deux, l'outil a souvent donné des résultats erronés.</p>

<p class="article-paragraph skip">En résumé, cet outil ne devrait probablement pas être utilisé par les enseignants pour accuser leurs étudiants d'avoir eu recours à l'IA, même si Turnitin soutient que son détecteur a une précision de **98%**.</p>

<p class="article-paragraph skip">Il convient de noter que la société souligne sur son site web que les résultats de cet outil ne doivent pas servir à accuser les étudiants de tricherie, mais il semble peu probable que cela dissuade tous les enseignants.</p>

<p class="article-paragraph skip">Une simple recherche sur le subreddit de **ChatGPT** révèle de nombreux exemples de étudiants dénoncés pour avoir utilisé l'IA dans leurs textes.</p>

<p class="article-paragraph skip">Les entreprises comme Turnitin, qui développent des détecteurs d'IA, doivent donc relever un véritable défi en matière de communication sur les capacités de ces outils incomplètement développés et sur la manière dont ils doivent être utilisés.</p>

<p class="article-paragraph skip">« Notre objectif est de créer des informations suffisamment précises pour que les enseignants puissent engager une discussion », a déclaré Annie Chechitelli, responsable produit de Turnitin. « Je suis suffisamment confiante pour le lancer sur le marché, tant que nous continuons à éduquer les enseignants sur l'utilisation des données. »</p>

<p class="article-paragraph skip">L'outil de détection d'IA de Turnitin n'est pas le seul à éprouver des difficultés. Même l'outil de détection d'IA d'**OpenAI** a échoué à atteindre un score parfait lorsque nous lui avons soumis un mélange de textes générés par l'IA et rédigés par des humains.</p>

<p class="article-paragraph skip">Cet outil a reconnu avec succès tous les échantillons écrits par des hommes, mais n'a identifié que quatre textes générés par **ChatGPT** parmi les dix. Un échantillon de ChatGPT a même été qualifié de « très peu probable » d'être généré par une IA. </p>

<p class="article-paragraph skip">Des outils de détection d'IA peu fiables représentent un vrai problème pour les élèves à l'avenir.</p>

<p class="article-paragraph skip">« Il n'y a pas moyen de prouver que vous n'avez pas triché à moins que votre enseignant connaisse votre style d'écriture ou vous fasse confiance en tant qu'élève », a partagé l'un des étudiants.</p>

<p class="article-paragraph skip">Malheureusement, vu les avancées récentes en matière de modèles d'IA, la situation est susceptible de devenir encore plus complexe. Avec des concurrents comme **GPT-4** et **Google Bard** cherchant à remporter la première place des chatbots d'IA, leur capacité à échapper à la détection ne manquera pas d'évoluer avec le temps.</p>

<p class="article-paragraph skip">Cela signifie qu'il faudra envisager une solution entièrement nouvelle pour que les enseignants retrouvent la confiance des étudiants, alors que les frontières entre les chatbots et les humains continuent de s'estomper.</p>

<p class="article-paragraph skip">« Je ne pense pas que les détecteurs soient fiables sur le long terme », a affirmé Jim Fan, scientifique en IA chez **Nvidia**, anciennement chez **OpenAI** et **Google**. « L'IA s'améliorera et écrira de plus en plus comme les humains. »</p>

<p class="article-paragraph skip"><strong>Plus sur les détecteurs d'IA : </strong><em>Nous avons testé le nouvel outil de détection d'IA d'OpenAI et... euh...</em><strong><br/></strong></p>