À la recherche d’un équilibre
Les grandes entreprises technologiques comme Facebook et Google, tout comme des organismes gouvernementaux tels que la DARPA du Pentagone ou la Fondation de recherche avancée russe, s’efforcent de mettre au point une intelligence artificielle générale surpuissante. Cependant, il est impératif de prendre des mesures préventives pour éviter que cette IA super-intelligente ne devienne une menace pour l’humanité.
Un article récent dans The Conversation, rédigé par Wim Naudé, cherche à alerter sur ce sujet. En tant que chercheur associé à l’Université des Nations Unies, Naudé insiste sur la nécessité pour les gouvernements d’intervenir afin que l’intelligence artificielle profite à tous et qu’aucune technologie malveillante ne soit déployée contre l’humanité.
L’importance des politiques adéquates
Naudé se réfère à ses récentes recherches qui explorent comment les politiques gouvernementales peuvent favoriser une société dotée d’une IA surpassant les capacités humaines. Selon lui, un modèle de prime pour la mise à disposition d’algorithmes, même imparfaits, pourrait encourager la collaboration entre entreprises plutôt que la discrétion.
En d’autres termes, il propose que les gouvernements déclarent leur intention d’acheter ces technologies, ce qui pourrait inciter les entreprises à partager leurs innovations plutôt que de les cacher.
Comprendre les conséquences potentielles
Cependant, la simple mise en place de tels incitatifs ne suffira pas à éviter la concentration de la richesse générée par l’IA. Si un algorithme montre des signes de malveillance, Naudé suggère qu’il soit mis en place un système d’imposition basé sur la nature bienveillante de l’IA développée par chaque entreprise.
En effet, il explique qu’une taxe suffisamment élevée pourrait mener à une sorte de nationalisation de ces intelligences artificielles, dissuadant ainsi les entreprises de prendre des risques inutiles pour éviter que leurs créations ne tombent sous le contrôle de l’État.
À lire également :
- Comment les gouvernements peuvent freiner l’essor d’IA malveillantes dans le même article de The Conversation.
Plus d’informations sur l’IA dangereuse
- La recherche sur les IA malveillantes doit-elle être rendue publique ? Cinq experts partagent leur avis.
FAQ
Qu’est-ce que l’intelligence artificielle générale ?
L’intelligence artificielle générale est conçue pour comprendre, apprendre et appliquer des connaissances de manière comparable à l’intelligence humaine, dépassant les capacités des IA actuelles.
Pourquoi est-il important d’encadrer le développement de l’IA ?
Un encadrement est essentiel pour s’assurer que les technologies d’IA ne soient pas utilisées à des fins nuisibles et pour promouvoir leur utilisation bénéfique au sein de la société.
Quelles mesures peuvent être mises en place pour contrôler l’IA ?
Des politiques de collaboration entre entreprises, des primes pour la transparence des algorithmes et des taxes en fonction de l’impact éthique de l’IA sont quelques-unes des stratégies proposées.
Quelles sont les conséquences de la concentration de richesse liée à l’IA ?
Une concentration excessive peut mener à des inégalités économiques, un pouvoir disproportionné et des risques accrus d’abus de technologies potentiellement dangereuses.
Qui devrait surveiller le développement de l’IA ?
Il est suggéré que la surveillance soit assurée par des partenariats entre gouvernements, chercheurs et organisations indépendantes pour garantir une diversité de perspectives et d’approches.