Au milieu des affirmations retentissantes selon lesquelles l’intelligence artificielle (IA) aurait peut-être résolu des problèmes mathématiques réputés difficiles depuis des décennies, un nombre croissant de mathématiciens exhorte les gouvernements à prendre du recul et à examiner la situation de manière plus approfondie.
Plus de 150 experts ont signé une déclaration mettant en garde les décideurs contre la confusion entre les annonces spectaculaires de l’IA et les véritables avancées scientifiques, comme le rapporte le site Futurism.
Que s’est-il passé ?
Cette mise en garde fait suite à une série de moments remarquables dans le domaine de l’IA.
Récemment, un jeune homme de 23 ans, sans formation formelle en mathématiques, a affirmé que ChatGPT l’avait aidé à résoudre l’un des célèbres « problèmes d’Erdős ». Par ailleurs, OpenAI a déclaré que son système avait contourné la conjecture du « distance unitaire » de Paul Erdős, vieux de plusieurs décennies.
Cependant, pour beaucoup de chercheurs, ces événements ne prouvent pas que l’IA est sur le point de révolutionner le monde des mathématiques. En soutien de ce point de vue, plus de 150 universitaires du monde entier ont signé la « Déclaration de Leiden sur l’IA et les Mathématiques », appelant à ne pas « croire à l’engouement » qui entoure ces annonces.
Les signataires soulignent qu’il existe un véritable incitatif commercial dans le secteur technologique à exagérer les capacités de leurs produits. Ainsi, la déclaration insiste sur le fait que les responsables politiques devraient s’informer auprès des experts, notamment des mathématiciens, lorsqu’ils prennent des décisions plutôt que de se fier uniquement aux communiqués de presse.
Pourquoi est-ce important ?
Les mathématiques sont à la base de nombreux domaines : sciences, ingénierie, économie, informatique et modélisation climatique.
Si les systèmes d’IA produisent des preuves qui semblent convaincantes mais s’effondrent sous un examen plus approfondi, les conséquences pourraient dépasser le cadre académique. Un résultat erroné dans la recherche peut fausser les orientations futures, retarder des percées véritables et éroder la confiance dans le travail scientifique.
La déclaration aborde également des préoccupations plus larges concernant l’IA, telles que la désinformation, la surveillance, son utilisation militaire et les coûts environnementaux.
L’utilisation et la formation de systèmes d’IA avancés nécessitent d’énormes centres de données, ce qui peut surcharger le réseau électrique et consommer d’importantes quantités d’eau, contribuant ainsi à des problèmes de pollution, de stress sur les infrastructures et même à des factures d’énergie plus élevées pour les ménages.
Malgré cela, l’IA peut également être utilisée de manière bénéfique, par exemple pour aider les entreprises de services publics à prévoir la demande d’électricité, équilibrer les énergies renouvelables et améliorer l’efficacité des systèmes énergétiques.
Que disent les experts ?
Ulrike Tillmann, vice-présidente de l’Union Mathématique Internationale, a souligné que l’IA « soulève des questions qui ne peuvent être négligées ».
Leslie Ann Goldberg, à la tête du département d’informatique à l’Université d’Oxford, a mis en garde que « les techniques automatisées actuelles peuvent produire des arguments plausibles mais peu fiables, lesquels sont difficiles à distinguer des preuves mathématiques correctes ».
Rodrigo Ochigame, anthropologue de l’IA à l’Université de Leiden et co-auteur de la déclaration, a déclaré à Scientific American : « De nombreux mathématiciens qui n’ont jamais souhaité contribuer au développement de l’IA voient désormais leur travail utilisé à cette fin sans leur consentement. C’est une situation profondément préoccupante. »
FAQ
Quels sont les principaux problèmes soulevés par les mathématiciens concernant l’IA ?
Les mathématiciens s’inquiètent principalement de la confiance excessive dans les résultats de l’IA, qui pourraient être erronés ou mal interprétés, et du manque de consultation des experts lors de l’élaboration des politiques.
Pourquoi les résultats mathématiques basés sur l’IA peuvent-ils être problématiques ?
Les résultats peuvent sembler convaincants au premier abord, mais ils peuvent contenir des erreurs qui pourraient impacter de manière significative la recherche future et la crédibilité scientifique.
Quelles sont les conséquences environnementales de l’IA ?
Le fonctionnement des systèmes d’IA avancés peut entraîner une consommation excessive d’énergie et d’eau, aggravant les problèmes de pollution et de stress sur les infrastructures.
Comment l’IA peut-elle être utilisée positivement ?
L’IA peut contribuer à des tâches bénéfiques comme l’optimisation de la demande en électricité, la gestion de l’énergie renouvelable et l’amélioration de l’efficacité énergétique.
Quelles mesures les gouvernements devraient-ils prendre face à ce problème ?
Les gouvernements devraient s’assurer de consulter des experts en mathématiques et en technologie avant d’implémenter des politiques basées sur des résultats d’IA, afin de garantir la rigueur scientifique et éthique.
