Sora et la Débat autour de l’IA
Depuis le lancement de Sora, le dernier modèle d’IA d’OpenAI destiné à la génération vidéo, le sujet fait sensation. Cependant, Yann LeCun, chef de la science de l’IA chez Meta, n’est pas convaincu par cet engouement qui entoure ce modèle de texte à vidéo.
Les Critiques de Yann LeCun
LeCun remet en question les assertions d’OpenAI, selon lesquelles Sora permettrait de créer « des simulateurs généralistes du monde physique ». Pour lui, s’il s’agit de ce type de projet, alors la méthode employée pour développer un « simulateur du monde » est, en réalité, très mal orientée.
Il souligne, dans une publication sur X (anciennement Twitter), que modéliser le monde en générant des pixels est aussi inefficace que l’idée déjà largement abandonnée de « l’analyse par synthèse ». Cette approche pourrait mener à des échecs retentissants.
Un Chef de File de l’IA
LeCun est l’une des figures emblématiques de l’IA, connu pour sa franchise. Alors que certains de ses collègues expriment leurs regrets concernant les impacts de leurs créations, lui continue d’avancer avec sa recherche chez Meta, n’hésitant pas à critiquer les modèles concurrents.
Ses remarques font écho à un débat ancien au sein de l’apprentissage automatique, opposant les modèles génératifs aux modèles discriminatifs. Il estime que la démarche générative, qui génère des pixels « à partir de variables latentes explicatives », est insuffisante et ne parvient pas à gérer l’incertitude engendrée par des prédictions complexes dans un espace 3D.
En des termes simples, il affirme que ces modèles tentent d’« inférer » trop de détails superflus, semblables à essayer de calculer la trajectoire d’un ballon de football sans se concentrer sur des éléments essentiels comme sa masse ou sa vitesse.
Recherche d’une Compréhension Profonde
LeCun précise qu’il n’y a rien de mal dans ces modèles si le but est simplement de générer des vidéos. Toutefois, il souligne qu’un tel objectif rend la compréhension du fonctionnement du monde impossible.
Il reconnaît que, pour l’instant, l’approche générative a bien fonctionné avec les grands modèles linguistiques comme ChatGPT, car le texte est constitué d’un nombre limité de symboles. Cependant, reproduire le monde, comme c’est censé le faire Sora, implique de prendre en compte bien plus que quelques caractères.
Une Alternative avec V-JEPA
En réponse à la méthode d’OpenAI, Yann LeCun développe un modèle à Meta appelé la Video Joint Embedding Predictive Architecture (V-JEPA), récemment annoncé. Contrairement aux approches génératives qui cherchent à remplir chaque pixel manquant, V-JEPA offre une flexibilité permettant d’ignorer les informations imprévisibles. Cela conduit à une efficacité d’entraînement considérablement améliorée, atteignant jusqu’à six fois mieux que les méthodes traditionnelles.
Bien que le travail de LeCun ne reçoive pas le même niveau d’attention que les produits flashy d’OpenAI, il est fascinant de voir un chercheur aussi éminent s’éloigner des approches classiques actuellement explorées par OpenAI et ses nombreux imitateurs.
FAQ
Qu’est-ce que Sora ?
Sora est un modèle d’IA développé par OpenAI, conçu pour générer des vidéos à partir de textes.
Comment Yann LeCun justifie-t-il ses critiques ?
Il critique l’approche d’OpenAI en raison de son efficacité limitée à modéliser le monde et de son incapacité à gérer l’incertitude dans des environnements complexes.
Quelle est la principale différence entre les modèles génératifs et discriminatifs ?
Les modèles génératifs créent de nouveaux éléments en générant des données, tandis que les modèles discriminatifs se concentrent sur la classification et la reconnaissance de données existantes.
Qu’est-ce que la V-JEPA ?
La V-JEPA est un modèle proposé par Yann LeCun qui vise à améliorer la génération vidéo en se concentrant sur des informations pertinentes, minimisant le remplissage des pixels inutiles.
Pourquoi la génération vidéo est-elle complexe ?
La génération vidéo implique des interactions dynamiques dans un espace 3D, nécessitant une prise en compte de nombreux facteurs physiques et contextuels qui dépassent le simple traitement de pixel.
