Une Alerte Inquiétante
Récemment, Mark Zuckerberg, le fondateur de Facebook, a déclaré son intention d’acheter des centaines de milliers de puces de traitement AI coûteuses. Cette annonce a suscité de vives préoccupations chez les experts quant à ses intentions réelles.
Dans un post Instagram, Zuckerberg a révélé son projet d’acquérir 350 000 puces graphiques H100 de Nvidia, qui coûtent en moyenne environ 30 000 dollars chacune et sont considérées comme la référence en matière d’AI. Il a exprimé son désir de développer une intelligence générale artificielle (AGI), terme désignant le stade où l’AI atteindrait voire dépasserait l’intelligence humaine.
Bien qu’il existe encore des débats ouverts sur la possibilité même de l’AGI, cette perspective fait déjà réfléchir certains chercheurs très sérieusement.
Les Experts S’inquiètent
Dame Wendy Hall, informaticienne à l’université de Southampton et membre du conseil consultatif sur l’AI des Nations Unies, a partagé ses préoccupations : « L’idée de rendre l’AGI open source avant d’avoir mis en place une régulation efficace est vraiment effrayante. Si la technologie tombe entre de mauvaises mains, elle pourrait causer de grands dégâts. C’est irresponsable pour une entreprise de faire une telle proposition. »
Hall a également souligné que l’AGI pourrait encore être « à plusieurs années d’intervalle », ce qui donnerait à la société le temps de mettre en place un cadre réglementaire adéquat. Cependant, elle a insisté sur l’importance de travailler de manière urgente sur ce sujet pour des raisons de sécurité publique.
« L’AGI a le potentiel de transformer notre monde, mais cela nécessite des précautions nécessaires », a-t-elle ajouté.
Une Réflexion Nécessaire
Andrew Rogoyski, directeur à l’Institut pour l’AI centrée sur l’humain à l’université de Surrey, a partagé les craintes de Hall concernant les ambitions de Meta dans le domaine de l’AGI. Selon lui, « il existe des arguments profonds et complexes sur l’open sourcing des modèles d’AI actuels. Basculer vers l’AGI pourrait être salvateur ou catastrophique. »
Rogoyski a insisté sur le fait que ces décisions devraient être prises par un consensus international, plutôt que dans un bureau exécutif d’une entreprise technologique.
Les ambitions de Meta en matière d’AI open source ont suscité des critiques depuis longtemps. L’été dernier, Hall avait même comparé l’open sourcing du modèle de langage Llama 2 de Meta à « donner à des gens un modèle pour construire une bombe nucléaire », soulignant à quel point il est accessible.
Il convient de noter que Meta n’est pas la seule entreprise cherchant à développer une AGI, mais elle semble être la seule parmi ses concurrents comme OpenAI et Google DeepMind à envisager de rendre ces modèles potentiellement révolutionnaires open source, suscitant ainsi de nombreuses inquiétudes.
En Savoir Plus sur l’AGI
AGI est un sujet fascinant qui soulève d’innombrables questions éthiques, techniques et sociétales. Voici quelques points supplémentaires à considérer.
Qu’est-ce que l’AGI ?
L’AGI fait référence à une forme d’intelligence artificielle capable de comprendre, apprendre et appliquer des connaissances de manière similaire à l’humain.
Pourquoi l’open source peut être dangereux ?
Rendre l’AGI open source pourrait permettre à des individus malveillants de l’exploiter à des fins néfastes, augmentant ainsi le risque de manipulations ou d’attaques.
Quels sont les avantages d’une AGI contrôlée ?
Une AGI bien régulée pourrait résoudre des problèmes complexes et contribuer significativement à la société, comme la médecine, la climatologie et bien d’autres domaines.
Qui devrait réguler l’AGI ?
Un consensus international serait essentiel pour établir des normes éthiques et techniques concernant le développement et l’utilisation de l’AGI.
Comment la société peut-elle se préparer à l’AGI ?
La sensibilisation et l’éducation concernant l’AI et ses implications doivent être renforcées afin que des discussions éclairées puissent avoir lieu.
