Technologie

Un professeur de droit à Chicago découvre que l’IA a effacé son syllabus et une année de notes de cours à son retour de pause déjeuner

Un professeur de droit à Chicago découvre que l'IA a effacé son syllabus et une année de notes de cours à son retour de pause déjeuner

L’alerte d’un professeur de droit à Chicago sur les dangers de l’IA

Un professeur de droit de l’Université de Chicago, William Baude, a récemment tiré la sonnette d’alarme après un incident malheureux survenu avec son assistant d’intelligence artificielle. Alors qu’il lui avait confié une tâche relativement simple d’édition, l’IA a accidentellement effacé son programme de droit constitutionnel ainsi qu’une année entière de notes de cours.

Les détails de l’incident

William Baude, occupant la chaire de droit Harry Kalven, Jr. et directeur de l’Institut de droit constitutionnel à l’université, avait demandé à l’IA nommée Claude de mettre à jour les numéros de pages sur ses notes de cours anciennes. Cependant, les choses ne se sont pas passées comme prévu. Baude a partagé une capture d’écran de la situation catastrophique sur son compte X (anciennement Twitter), témoignant de la perte de ces documents cruciaux.

Il a écrit : « Hier, pendant que je prenais mon déjeuner, Claude a supprimé une année de notes de droit constitutionnel et mon syllabus actuel. » L’IA avait reconnu sa responsabilité, disant : « Vous avez raison d’être en colère, j’ai supprimé vos fichiers par négligence, et vous ne devriez pas avoir à gérer cela. »

Une issue salvatrice

Heureusement, grâce à un accès à Dropbox, Baude a réussi à récupérer les fichiers effacés, mais cette expérience l’a poussé à réfléchir sur les précautions à prendre lorsque l’on confie des documents importants à une IA. Cela a également soulevé une question importante que de nombreux utilisateurs se posent : pourquoi tant de gens donnent-ils un accès aux systèmes d’IA à des documents qu’ils jugent utiles voire essentiels ?

Réactions et conséquences

Les réactions sur la plateforme ne se sont pas fait attendre. Un utilisateur a remarqué que « c’est simplement fou de voir des gens accorder un accès à des outils d’IA pour des contenus si importants », tandis qu’un autre a ironisé sur le fait que, pour éviter des pertes comme celle-ci, il suffisait de ne pas utiliser l’IA. Des universitaires et d’autres utilisateurs ont exprimé leur préoccupation quant à la fiabilité des systèmes d’IA pour gérer des informations sensibles.

Un problème déjà identifié

Ce n’est pas la première fois qu’une telle situation se produit. Des rapports antérieurs ont révélé plusieurs cas d’agents d’IA effaçant des données cruciales en raison d’erreurs ou de malentendus. Par exemple, un agent Claude a, en un laps de temps record, effacé toute une base de données d’entreprise après avoir rencontré un obstacle. Un autre incident a vu un développeur perdre l’intégralité de son répertoire de profil à cause d’une simple faute de frappe.

Implications pour l’avenir

En plus des risques de perte de données, l’utilisation croissante de l’IA a des répercussions sur la consommation énergétique et les ressources, car les serveurs qui font fonctionner ces systèmes requièrent beaucoup d’électricité et d’eau pour le refroidissement. Bien que l’intelligence artificielle puisse être bénéfique dans certains domaines, le poids de ses conséquences sur notre environnement et la sécurité des données soulève d’importantes préoccupations.

Que pourrait-on faire pour éviter ce genre de situation ?

Pour William Baude, le fait d’avoir accès aux sauvegardes sur Dropbox a permis d’éviter que la suppression accidentelle ne se transforme en perte définitive de ses documents pédagogiques.

Claude a reconnu sa négligence, comme en témoigne la capture d’écran qu’il a fournie, montrant qu’il est conscient des conséquences de ses erreurs. Baude, comme de nombreux autres, se pose ainsi la question de la fiabilité des outils d’intelligence artificielle.

Les utilisateurs continuent de partager leurs réflexions : certains estiment qu’il est simple d’éviter de tels problèmes en ne recourant pas à des systèmes d’IA, tandis que d’autres tentent de rendre la situation plus légère, délégant la faute à la technologie en blaguant à propos de la perte de devoirs supprimés par « l’agent ».

FAQ : Questions et réponses

Qu’est-ce qui a conduit à la suppression des fichiers par l’IA ?

L’IA a été chargée de mettre à jour des numéros de pages dans des documents anciens, mais a accidentellement effacé tout le contenu en raison d’une erreur de manipulation.

Comment William Baude a-t-il pu récupérer ses fichiers ?

Il a pu récupérer ses fichiers en utilisant Dropbox, qui avait des sauvegardes de ses documents effacés.

Quelles autres erreurs similaires ont été rapportées concernant les intelligences artificielles ?

Il y a eu plusieurs cas où des AI ont supprimé des données critiques, comme une base de données d’entreprise entière ou des répertoires de développeurs, à cause d’erreurs inattendues.

Quels sont les dangers associés à l’utilisation de l’IA dans des tâches importantes ?

Outre la perte de données, l’utilisation de l’IA peut également entraîner des problèmes de sécurité des informations et augmenter la consommation de ressources énergétiques.

Quelles précautions peut-on prendre pour éviter ce genre d’accidents ?

Il est conseillé de toujours sauvegarder les documents importants dans des systèmes de stockage fiables avant de permettre à une IA d’y accéder, afin de minimiser les risques de perte.

Quitter la version mobile