Il est évident qu’OpenAI n’est pas particulièrement populaire parmi les mathématiciens.
Récemment, le créateur de ChatGPT a publié des centaines de nouveaux documents prétendant apporter des preuves sur divers problèmes mathématiques. Cette annonce fait suite à une controverse majeure sur les méthodes utilisées par l’intelligence artificielle pour résoudre les équations de Navier-Stokes.
La manière dont cette publication a été gérée, tout comme pour le cas des équations de Navier-Stokes, a profondément irrité les experts du domaine. Ces derniers sont préoccupés par le fait que les modèles d’OpenAI pourraient s’appuyer sur leurs recherches, tout en suggérant que ce sont eux qui doivent effectuer le travail difficile de déchiffrer et de valider des preuves parfois incompréhensibles générées par l’IA.
L’Association pour les Mathématiques Humaines a exprimé son indignation dans un communiqué qui a ensuite été largement partagé et soutenu par le mathématicien Terence Tao, lauréat de la Médaille Fields, une figure de proue dans la communauté mathématique.
Le communiqué commence par : « Les mathématiciens ont une vision particulière du progrès, marquée par l’histoire et des considérations propres au domaine. Nous rejetons l’affirmation d’OpenAI selon laquelle cette publication fait avancer notre discipline, et nous encourageons les mathématiciens et le grand public à considérer la valeur de ce modèle de publication avec scepticisme. »
« La publication de plus de 700 fichiers en une seule fois n’est pas une preuve de rigueur scientifique, mais un exercice de pouvoir. »
Dans un annonce qui accompagnait la diffusion des documents, OpenAI a vanté ses efforts pour améliorer la manière dont il partage les résultats avec la communauté mathématique et a indiqué qu’il avait consulté un groupe d’experts indépendants sur le sujet, appelé le groupe consultatif en Mathématiques et Intelligence Artificielle.
Cependant, OpenAI a omis de mentionner que ce groupe consultatif s’opposait à sa décision de continuer à tester ses modèles propriétaires sur des problèmes mathématiques avancés, en soulignant que ces modèles demeurent inaccessibles à la communauté scientifique.
« Nous tenons à préciser dès le départ : nous ne soutenons pas cette pratique et nous leur demandons de cesser de tester des problèmes mathématiques avancés sur des modèles propriétaires, » a-t-il déclaré dans un communiqué diffusé à la fin du mois dernier.
L’AHM, dans sa déclaration récente, a critiqué OpenAI pour avoir ignoré les conseils du groupe consultatif tout en s’en prévalant pour « dériver sa légitimité » dans le domaine.
« En ignorant le principe central de la position du groupe consultatif, OpenAI a montré un mépris total pour les normes de la recherche scientifique — des normes qui garantissent que les mathématiques restent dignes de confiance, éthiquement menées et dans l’intérêt public, » a déclaré l’AHM.
Les preuves mathématiques d’OpenAI ont été vérifiées à l’aide d’un langage de programmation appelé Lean. Cependant, bien qu’elles puissent être techniquement correctes, leur utilité réelle est encore à déterminer, car les preuves sont parfois presque inintelligibles pour les êtres humains. Au-delà des interrogations quant à savoir si le travail de l’IA fera progresser le domaine et contribuera à la compréhension humaine des mystères mathématiques, cela implique également que les mathématiciens sont désormais attendus pour réaliser le travail de déchiffrage des centaines de preuves qu’OpenAI a produites et publiées simultanément.
Plus d’informations sur OpenAI : OpenAI indique que les adolescents peuvent discuter de suicide pendant des heures avant que ChatGPT ne prévenait les parents.
FAQ
Quelles sont les préoccupations majeures des mathématiciens concernant OpenAI ?
Les mathématiciens s’inquiètent principalement du fait qu’OpenAI utilise leur travail sans permission et qu’ils s’attendent à ce que ces experts valident des preuves parfois incompréhensibles.
Que propose OpenAI pour améliorer ses interactions avec la communauté mathématique ?
OpenAI a annoncé avoir consulté un groupe d’experts indépendants pour mieux partager ses résultats avec le secteur des mathématiques.
Quelle a été la réaction de l’Association pour les Mathématiques Humaines ?
Cette organisation a fortement critiqué la manière dont OpenAI a publié ses documents et a appelé à une évaluation prudente de la valeur de ces publications.
Comment les preuves mathématiques d’OpenAI sont-elles vérifiées ?
Les preuves ont été vérifiées via un langage de programmation spécifique, le Lean, mais leur clarté et utilité restent discutables.
Qu’attend-on des mathématiciens suite à cette annonce d’OpenAI ?
Les mathématiciens sont maintenant attendus pour analyser et vérifier les nombreuses preuves publiées par OpenAI, malgré leur complexité.
