Les innovations et les controverses en intelligence artificielle
Inscription à des nouvelles essentielles
Il est crucial de rester informé des dernières innovations en matière de science et de technologie. La connaissance des avancées technologiques permet de comprendre les impacts qu’elles peuvent avoir sur notre quotidien.
Meta et son projet controversé
Récemment, Meta, anciennement connu sous le nom de Facebook, a retiré un projet d’intelligence artificielle (IA) qui avait pour but de générer des articles académiques. Ce projet, lancé le 15 novembre, a suscité une vague de critiques sur Twitter après seulement trois jours. En dépit de son ambition de créer des textes semblent crédibles, l’IA a été rapidement dénoncée pour sa capacité à produire des contenus dépourvus de sens.
Les critiques de l’IA de Galactica
Parmi les juristes de cet outil se trouvait Gary Marcus, un expert en intelligence artificielle, qui n’a pas hésité à qualifier les résultats de ce système de “bêtises” sur sa plateforme. Il a souligné que cette IA rappelle d’autres modèles, tels que GPT-3 d’OpenAI, également connu pour son habileté à créer des textes qui, bien que grammaticalement corrects, manquent de sens.
Marcus a exprimé son scepticisme en disant : “Comment dire cela poliment ? Cela déforme la réalité, souvent.” Son commentaire souligne l’inquiétude croissante autour de la fiabilité des contenus générés par l’IA.
Le cas extraordinaire du « ours spatial »
Un exemple amusant des dérives de l’IA de Galactica a été partagé par un autre spécialiste, David Chapman. Il a révélé sur un fil de discussion Y Combinator un article fictif, créé par l’IA, au sujet d’un ours soviétique nommé “Bars” qui aurait été envoyé dans l’espace avec Sputnik 2, rappelant ainsi l’histoire tragique de Laika, un chien cosmonaute. Ce genre de contenu montre combien l’IA peut générer des histoires totalement fictives tout en restant dans le thème.
Chapman a réagi en qualifiant ce résultat de “ridicule”, illustrant ainsi les limites de la technologie actuelle.
Réflexion sur la précipitation de lancement
La décision rapide de Meta de retirer ce projet pourrait être interprétée comme une reconnaissance d’une erreur de jugement. Gary Marcus a affirmé que cela démontre que l’IA a été lancée prématurément, une déclaration qui contredit la défense enflammée de Yann LeCun, directeur scientifique de l’IA chez Meta. LeCun avait précédemment réagi aux critiques en défendant le projet, estimant qu’il était ciblé par des moqueries excessives.
Dans un tweet, Marcus a conclu que les grands modèles de langage comme GPT-3 et Galactica agissent tels des taureaux dans un magasin de porcelaine : puissants mais imprudents, augmentant ainsi les risques associés à la désinformation en ligne.
FAQ
Quelle est la principale raison pour laquelle Meta a annulé ce projet d’IA ?
Meta a retiré son IA, Galactica, en raison des critiques et des préoccupations concernant la qualité et la fiabilité des contenus générés, qui semblaient souvent absurdes ou mensongers.
Quelles sont les implications de l’utilisation d’IA comme Galactica ?
L’utilisation de telles IA peut poser des risques de désinformation, car elles ont la capacité de produire des textes qui, bien que corrects grammaticalement, peuvent véhiculer des informations totalement fausses.
Qu’est-ce que GPT-3 et comment est-il lié à Galactica ?
GPT-3, développé par OpenAI, est un modèle de langage connu pour sa capacité à générer du texte. Galactica est considéré comme une extension de cette technologie, mais ses résultats ont été perçus comme moins fiables.
Y a-t-il d’autres projets d’IA similaires en cours ?
Oui, de nombreux projets d’IA sont en développement, mais chacun d’eux soulève des questions éthiques et techniques similaires sur la capacité à créer des contenus informatifs et véridiques.
Quelles précautions devraient être prises lors de l’utilisation d’IA pour générer du contenu ?
Il est essentiel d’exercer une veille critique sur les contenus produits par l’IA, de les vérifier avec des sources fiables et d’encadrer leur utilisation par des règles éthiques pour éviter la diffusion de fausses informations.
