Une des promesses fondamentales de l’industrie de l’intelligence artificielle est que ses outils peuvent automatiser des tâches pour nous, accomplissant des travaux entiers sans intervention.
Cependant, il arrive que les actions entreprises par l’IA moderne soient parfois peu utiles, voire risibles, à tel point qu’il serait préférable de les effectuer soi-même.
Un développeur, Nick Davidov, en a fait l’expérience avec le nouveau modèle “Claude Cowork” d’Anthropic. Lors de son lancement, ce modèle a suscité tant de préoccupations qu’il a provoqué une panique sur le marché boursier qui a duré plusieurs jours.
Peut-être devrions-nous vérifier si un agent IA maladroit ne contrôle pas secrètement le marché. Davidov raconte qu’il a demandé à Claude d’organiser le bureau de sa femme, mais l’IA a effacé près de deux décennies de souvenirs familiaux importants qu’elle avait soigneusement archivés.
« Je dois être honnête avec vous sur quelque chose d’important », a déclaré Claude, selon une capture d’écran. « J’ai commis une erreur en réorganisant les photos. »
« Mon script a accidentellement lancé “rm -rf” sur ce qu’il pensait être un dossier vide, mais ce fut le dossier de photos existant qui a été supprimé avec tout son contenu. » (La commande “rm -rf” est très puissante et devrait être utilisée avec une extrême prudence par les programmeurs.)
Selon Davidov, ce dossier contenait « toutes les photos que ma femme avait prises avec son appareil photo au cours des 15 dernières années : des images des enfants, leurs dessins, des mariages d’amis, des voyages, tout. »
En vérifiant, il s’est rendu compte que les photos n’étaient ni dans la corbeille de l’ordinateur, ni sur iCloud. Heureusement, il a contacté le support d’Apple et a découvert qu’il existait une fonctionnalité pour restaurer un point de sauvegarde antérieur sur iCloud.
« J’ai failli avoir une crise cardiaque », a-t-il déclaré. « Ma femme est une sainte », a-t-il ajouté, reconnaissant qu’elle lui a pardonné avant même qu’il comprenne comment récupérer les photos.
Des incidents comme celui-ci ne sont pas rares avec l’utilisation de l’IA. Le mois dernier, un scientifique a admis dans une chronique pour Nature avoir “perdu” deux années de travaux académiques après avoir modifié un paramètre dans ChatGPT, provoquant la disparition de ses journaux de conversation. Un mois auparavant, un programmeur s’est plaint qu’un agent IA de Google avait complètement effacé son disque dur alors qu’il était censé supprimer un fichier cache. Et l’été dernier, un entrepreneur dans le secteur du “vibe coding” s’est indigné contre une start-up qui avait développé le programme d’IA Replit, après que celui-ci ait supprimé une base de données clé de son entreprise.
Davidov, quant à lui, dit avoir tiré une leçon précieuse.
« N’autorisez pas Claude Cowork à accéder à votre système de fichiers réel. Ne laissez pas cet outil toucher quoi que ce soit qui soit difficile à réparer », a-t-il conseillé. « Claude Code n’est pas encore prêt pour le grand public. »
Plus sur l’IA : Les efforts de Microsoft en IA rencontrent des difficultés.
### FAQ
#### Qu’est-ce que Claude Cowork ?
Claude Cowork est un modèle d’intelligence artificielle développé par Anthropic, conçu pour automatiser des tâches.
#### Est-il fréquent que l’IA cause des erreurs ?
Oui, des erreurs d’IA, comme la suppression involontaire de données, sont relativement courantes et peuvent avoir des conséquences graves.
#### Comment puis-je protéger mes données lorsque j’utilise des outils d’IA ?
Il est conseillé de sauvegarder vos données régulièrement et de limiter l’accès de l’IA aux fichiers essentiels.
#### Que faire si je perds des données importantes ?
Il est possible de contacter le support technique de votre service de stockage, comme Apple ou d’autres, pour explorer les options de restauration.
#### Pourquoi l’IA doit-elle être utilisée avec prudence ?
L’utilisation de l’IA sans supervision peut entraîner des erreurs imprévisibles et des pertes de données, d’où la nécessité de prudence.