Une université chinoise met fin à l’utilisation de l’IA pour évaluer l’attention des étudiants
Une université en Chine, la Nanjing University, a décidé de cesser d’utiliser des technologies d’intelligence artificielle (IA) pour mesurer si les étudiants sont attentifs en cours. Cette décision fait suite à une vague de préoccupations concernant la vie privée et le consentement des étudiants.
Contexte de la situation
Selon le South China Morning Post, l’université se servait de ce qu’elle appelait le “taux de tête levée” pour évaluer l’engagement des étudiants en observant simplement leur orientation – s’ils regardaient le professeur ou s’ils étaient tournés vers leurs appareils ou leurs bureaux. Le 4 novembre, elle a annoncé qu’elle abandonnait cette méthode de calcul, comme l’a rapporté VnExpress International.
Les inquiétudes ont surgi après la diffusion de captures d’écran combinant des vidéos de cours en direct avec des données d’assiduité et des statistiques concernant la ponctualité et l’attention des étudiants, suscitant ainsi des interrogations sur l’utilisation du reconnaissance faciale et la collecte de données personnelles.
La plateforme utilisée, un système de salle de classe intelligente, pouvait analyser des flux vidéo avec l’IA pour compter les étudiants, enregistrer leur présence et évaluer leur attention. Il avait été précisé aux étudiants que cette technologie ne serait utilisée que pendant une semaine, dans le cadre d’inspections pédagogiques régulières.
Les implications du projet
L’université a affirmé que les résultats d’assiduité ne seraient pas associés aux notes et que les autorités n’avaient pas ordonné ces inspections. Néanmoins, certains enseignants avaient averti que les relevés de présence pourraient influencer les notes des étudiants ou leur capacité à passer des examens. Les captures d’écran concernées avaient été réalisées lors d’un essai en mai sur un campus de l’université. Cela a mis en lumière un usage controversé de l’IA dans les domaines de l’éducation et de la surveillance.
En plus des préoccupations liées à la vie privée, il est important de noter que la technologie a également un impact significatif sur les ressources. Les systèmes informatiques requièrent de l’électricité, et les opérations d’IA à grande échelle consomment d’importantes quantités d’énergie et d’eau pour le refroidissement. Bien que l’IA puisse contribuer à l’optimisation des systèmes de énergie propre, elle nécessite également des ressources et présente des risques de mauvaise utilisation.
Que prévoit l’université à l’avenir ?
Initialement, les résultats de présence automatisés étaient destinés à orienter les évaluations pédagogiques et à apporter des améliorations aux cours. Malgré l’abandon du score d’attention, l’université défendait cette plateforme comme un moyen d’améliorer la qualité de l’enseignement. Les étudiants ont la possibilité de revoir les leçons enregistrées, d’assister à des cours en direct, et de bénéficier d’interconnections entre différents campus. Par ailleurs, l’université a affirmé qu’elle n’avait pas eu recours à la reconnaissance faciale pour ses activités pédagogiques ni collecté d’informations biométriques sans autorisation.
Cependant, certains étudiants demeurent inquiets et craignent que l’université, ainsi que des entreprises technologiques privées, puissent accéder à leurs informations biométriques via la reconnaissance faciale. La Nanjing University réalise d’importants investissements dans la technologie de l’IA, avec un budget dépassant les 30 millions de yuans (environ 4,5 millions de dollars) pour ce projet, qui a été déployé dans plus de 100 salles de classe et plusieurs espaces publics. Ainsi, bien que la surveillance de l’attention des étudiants puisse être abandonnée, l’IA n’est pas prête de disparaître de l’université.
Autres institutions et l’avenir de l’IA en classe
D’autres établissements d’enseignement évaluent également le rôle que l’IA devrait jouer dans leurs salles de classe et les limites nécessaires à son usage. Des décisions récentes incluent l’interdiction de l’utilisation de l’IA dans les écoles de New York et de Los Angeles pour l’année scolaire. À Chicago, la moitié des candidats aux élections du conseil scolaire ont exprimé leur soutien à une pause sur l’IA, tandis que Stanford University a été accusée d’utiliser l’IA pour modifier la race et le genre des étudiants.
FAQ
Quels sont les risques associes à la reconnaissance faciale en milieu scolaire ?
L’utilisation de la reconnaissance faciale soulève des préoccupations concernant la vie privée des étudiants, ainsi que le risque d’une discrimination algorithmique sur la base de l’identité des individus.
Comment les étudiants peuvent-ils protéger leur vie privée ?
Les étudiants peuvent demander des clarifications sur l’utilisation de technologies surveillantes et s’informer sur leurs droits en matière de données personnelles auprès de leurs établissements scolaires.
Quelles conséquences pourrait avoir l’abandon de l’analyse de l’attention en classe ?
L’absence de surveillance de l’attention pourrait entraîner un manque d’engagement de la part de certains étudiants, mais pourrait aussi favoriser un environnement d’apprentissage moins intrusif et plus centré sur les préférences personnelles des étudiants.
L’IA pourrait-elle être bénéfique dans l’enseignement ?
Oui, si elle est utilisée de manière éthique et responsable, l’IA peut améliorer l’apprentissage personnalisé et fournir des ressources pour soutenir les enseignants et les étudiants.
Comment d’autres universités réagissent-elles à l’IA en classe ?
Les universités adoptent des approches variées face à l’IA, certains choisissant de l’intégrer de manière innovante, tandis que d’autres imposent des limitations strictes sur son utilisation.
