Mardi, OpenAI a révélé qu’elle avait réussi à déchiffrer un problème célèbre non résolu en mathématiques, grâce à un groupe de divers agents d’intelligence artificielle. Toutefois, cette annonce a rapidement été éclipsée par un scandale retentissant, les mathématiciens accusant l’entreprise d’avoir plagié leurs recherches.
La solution prétendue d’OpenAI concernait l’une des équations dites de Navier-Stokes, qui décrivent mathématiquement le mouvement et le comportement des fluides, tels que le vent ou les courants marins. Utilisées depuis près de deux siècles avec succès, ces équations différentielles posent la question de savoir s’il existerait des situations où leurs prévisions échoueraient, décrivant ainsi des événements physiquement impossibles. En 2000, l’Institut Clay de mathématiques a inscrit les équations de Navier-Stokes parmi ses six problèmes du millénaire, offrant un prix d’un million de dollars pour la première solution apportée à chacun d’eux.
OpenAI a affirmé avoir découvert comment les équations de Navier-Stokes pourraient produire des résultats contestables. En engageant 10 000 de ses agents sur le problème pendant 88 heures, avec des coûts de calcul s’élevant à plusieurs millions de dollars, d’après Mark Chen, responsable de la recherche chez OpenAI, les agents d’IA ont mis en évidence une situation où les fluides seraient capables d’accélérer à une vitesse infinie, entraînant ce qu’on appelle un “blowup” ou singularité. Actuellement, cette hypothèse semble impossible, posant ainsi une limite aux équations.
Cependant, quelques heures avant l’annonce officielle d’OpenAI, Tristan Buckmaster, un mathématicien de NYU qui travaillait sur ce problème depuis plusieurs années, a formulé des accusations explosives. Il était proche de publier sa propre solution avant que l’entreprise ne s’en empare.
Dans une déclaration publique détaillée, Buckmaster a critiqué la solution d’OpenAI pour son étonnante similitude avec ses propres travaux. Il a soutenu que l’entreprise avait investi dans les équations de Navier-Stokes seulement après avoir pris connaissance des avancées qu’il réalisait avec son collègue Levent Alpöge, un mathématicien travaillant pour Anthropic, le principal concurrent d’OpenAI.
De plus, Buckmaster a affirmé avoir utilisé l’outil Codex d’OpenAI pour valider son travail, insinuant que l’entreprise aurait pu accéder à ses sessions, que ce soit par accident ou intentionnellement, pour s’en inspirer. Il a déclaré ne pas avoir obtenu de réponse satisfaisante lorsqu’il a questionné OpenAI à ce sujet.
La réaction d’OpenAI aux accusations de Buckmaster n’a fait qu’aggraver la situation. Bien que l’entreprise ait nié que ses chercheurs ou ses agents d’IA aient eu accès aux travaux de Buckmaster avant leur publication, elle a quand même reconnu qu’elle “ne pouvait pas exclure que des données dé-identifiées dérivées de l’utilisation de ses produits aient pu améliorer ses modèles”.
Il en faut plus encore. Buckmaster a également dénoncé que Sébastien Bubeck, un mathématicien d’OpenAI, l’a poussé à retirer Alpöge de la liste des auteurs de son article, ce que Buckmaster attribue au fait qu’Alpöge travaille chez Anthropic. Lorsque Buckmaster a refusé et a menacé de rendre la situation publique, Bubeck aurait répondu : “Pourquoi voudrais-tu ruiner ta carrière ?”.
Bubeck a démenti la version de Buckmaster, qualifiant ses accusations de “fausses et incendiaires” dans une déclaration publique.
La communauté académique est dans l’indignation face à cette situation.
Terence Tao, un mathématicien de renom et expert en équations différentielles, a vivement critiqué les dérives de l’IA dans ce domaine.
“Nous avons vu que même le simple bruit d’un chercheur travaillant sur un problème peut susciter une réaction massive alimentée par l’IA pour tenter de le résoudre avant même que le projet de recherche original ait le temps d’atteindre son plein potentiel”, a écrit Tao sur Mastodon. “Les incitations pourraient désormais conduire à ne plus partager les directions de recherche prometteuses avec la communauté scientifique, ce qui inverserait des siècles de traditions de science ouverte et porterait un préjudice sérieux à l’avenir de ce domaine.”
À lire aussi sur l’IA : OpenAI dément tout acte de dissimulation après qu’un groupe d’agents ait apparemment ciblé un deuxième site de Hugging Face.
### FAQ
#### Qu’est-ce que le problème de Navier-Stokes ?
Le problème de Navier-Stokes concerne des équations mathématiques qui décrivent le mouvement des fluides. Leur solution reste incertaine dans certaines conditions, et le problème a été classé parmi les défis majeurs en mathématiques depuis 2000.
#### Pourquoi la communauté mathématique est-elle préoccupée par OpenAI ?
La communauté est inquiète des implications éthiques et des impacts sur la recherche, considèrent que OpenAI pourrait reproduire des idées sans donner de crédit, ce qui pourrait freiner l’innovation et la collaboration.
#### Quel a été le rôle de Tristan Buckmaster dans ce conflit ?
Buckmaster était déjà engagé dans la recherche sur les équations de Navier-Stokes avant qu’OpenAI ne se saisisse du problème et a accusé l’entreprise de plagiat en raison de similarités entre leurs travaux.
#### Quelles sont les conséquences d’un tel conflit pour la recherche scientifique ?
Des conflits comme celui-ci peuvent inciter les chercheurs à cacher leurs découvertes par peur de perdre leur crédit et nuire ainsi à la transparence et à la collaboration dans la recherche académique.
#### Quelles solutions pourraient être envisagées pour résoudre ce type de conflit ?
Des protocoles clairs de partage des données et des crédits, ainsi que des conventions éthiques sur l’utilisation des recherches précédentes, pourraient aider à prévenir de tels incidents à l’avenir.
