L’industrie de l’IA agit souvent comme si elle était au-dessus des lois sur le droit d’auteur, sauf lorsque ces lois protègent ses propres intérêts.
Anthropique et la fuite de données
D’après un article du Wall Street Journal, la société Anthropic se précipite pour gérer une fuite de son modèle d’IA, Claude Code. Elle a demandé le retrait de plus de 8 000 copies de son code source, ce qui peut sembler paradoxal au regard de son propre historique d’entraînement sur des données controversées.
Nature de la fuite
Bien que cette fuite ne soit pas considérée comme une catastrophe — aucune donnée client n’ayant été exposée, selon Anthropic — elle a révélé les méthodes utilisées par ses ingénieurs pour faire fonctionner leur modèle comme un agent autonome. Cet agent utilise une infrastructure numérique que les codeurs appellent “harnais” et d’autres techniques pour assurer son efficacité.
Retrait des copies
Anthropic a ciblé les milliers de copies disponibles sur GitHub avec une demande de retrait, qu’elle a ensuite réduite à 96 copies, après avoir réalisé que la demande initiale englobait plus de comptes que nécessaire. Bien qu’il soit de son droit de faire cette demande, la contradiction entre sa position et son image d’entreprise éthique est évidente.
Antécédents de l’entreprise
Lorsque Anthropic n’était qu’un groupe émergent issu de chercheur d’OpenAI, il lui fallait des données de qualité pour construire son modèle Claude. Plutôt que de se limiter à des ouvrages dans le domaine public, elle a téléchargé des millions de livres piratés sur des plateformes comme LibGen et d’autres bibliothèques appelées “Pirate Library”. Cela a été mis au jour lors d’une action en justice, se soldant par un règlement de 1,5 milliard de dollars après qu’un juge a qualifié l’utilisation de ces ouvrages de illégale.
Pratiques controversées
Anthropic a également mené un projet secret, baptisé Projet Panama, où elle a numérisé et détruit des millions de livres physiques. Cette initiative, qui impliquait des méthodes peu scrupuleuses, a soulevé des questions éthiques. Bien que la justice n’ait pas jugé cette démarche illégale, la société avait conscience de la mauvaise perception de ces actions, comme en témoigne un document interne.
Erreur humaine et conséquences
Finalement, Anthropic n’a qu’elle-même à blâmer pour la fuite. Lors de la publication de la version 2.1.88 de son package npm, elle a involontairement laissé un fichier de source map, identifiant l’emplacement du code source en ligne. Cela a permis à des curieux de le télécharger en masse et de mettre ces copies sur GitHub. Bien que des questions soient soulevées concernant l’implication de l’IA dans cette erreur, la société maintient que cela relève uniquement de l’erreur humaine.
En savoir plus sur l’IA
Fuite du code Claude : Anthropic intègre une fonctionnalité mystérieuse de “Tamagotchi”.
FAQ
Quelle est la réaction d’Anthropic par rapport aux critiques sur ses pratiques commerciales ?
Anthropic a exprimé une certaine conscience des critiques, affirmant qu’elle s’efforcerait d’améliorer ses pratiques.
Quels sont les impacts d’une fuite de code source pour une entreprise d’IA ?
Une fuite peut exposer des méthodes internes, réduire la compétitivité et créer des risques de sécurité pour les utilisateurs finaux.
Comment Anthropic justifie-t-elle son utilisation de livres piratés ?
Anthropic a souvent défendu cette utilisation comme une nécessité pour obtenir des données de formation variées, bien qu’elle ait subi des répercussions légales pour ces actions.
Quels types d’innovations peut-on attendre de l’IA dans le futur ?
On anticipe des avancées significatives dans des domaines tels que la santé, l’éducation et les transports, où l’IA peut transformer les processus existants.
Comment les entreprises peuvent-elles garantir la conformité avec les lois sur le droit d’auteur ?
Les entreprises doivent mettre en place des mécanismes de vérification rigoureux et privilégier les sources de données autorisées pour éviter des disputes juridiques.
