C’est une manière de parler des autres êtres humains.
Comme l’a souligné l’auteure **Elizabeth Weil** dans un article sur **Sam Altman**, le PDG d’**OpenAI**, publié dans **New York Magazine**, cet influent dirigeant de l’IA a une tendance inquiétante à utiliser le terme de “**moyenne humaine**”, une expression qui semble évoquer une version robotisée du terme “**Monsieur Tout-le-Monde**”.
Altman espère que l’**intelligence générale artificielle (AGI)** sera dotée d’une intelligence comparable à celle d’un **”humain moyen”** que l’on pourrait engager comme collègue.
Cette affirmation est troublante, car elle donne l’impression qu’Altman envisage de remplacer le travail des gens ordinaires par une AGI qui n’est pas encore développée.
De plus, selon **Insider**, ce n’est pas la première fois qu’il exprime de telles idées. Lors d’un entretien en 2022 sur le podcast de **Lex Fridman**, Altman a déclaré que cette IA théorique serait capable d’accomplir toutes les tâches qu’un **collègue à distance** effectuerait derrière un écran, y compris celles d’un **médecin** ou d’un **programmeur compétent**.
En d’autres termes, si vous vivez une vie qualifiée de **”normale”**, vous risquez bientôt de perdre votre emploi — ou du moins, c’est une interprétation possible de ses paroles. Bravo pour notre avenir dominé par l’IA.
Comme l’ont noté **Insider** et **New York Magazine**, Altman n’est pas le seul à utiliser cette terminologie troublante dans le domaine de l’IA. L’expression est courante dans de **nombreux blogs** sur l’IA et a même été mentionnée dans un article de **CNBC** intitulé “**Comment parler de l’IA comme un initié.**”
Un article de blog d’une startup nommée **Skippet**, qui semble suivre la théorie d’Altman, affirme que lorsque nous développerons sérieusement une AGI, elle afficherait des capacités similaires à celles de la **moyenne humaine** tout en conservant la possibilité de devenir **experte dans un domaine**, une caractéristique que nous réservons actuellement à l’IA spécialisée.
Utiliser le terme “**moyenne**” de cette manière semble être un choix **délibéré** et révélateur. C’est un terme flou qui peut prêter à de nombreuses interprétations. Il est difficile de comprendre comment Altman ou qui que ce soit pourrait établir une définition complète de cette moyenne statistique. Quoi qu’il en soit, cette quantification de l’expérience humaine semble déshumanisante et incomplète.
**Brent Mittelstadt**, directeur de recherche à l’**Oxford Internet Institute**, a déclaré à **Insider** : “**Comparer l’IA à l’idée d’humains moyens ou médians est un peu offensant.** Je trouve cette comparaison inquiétante, tout comme la terminologie utilisée.”
Il a ajouté qu’il n’existe pas encore de “**comparaison mesurable concrète de l’intelligence humaine**” dans la recherche sur l’IA, tout en soulignant que le concept d’un **humain moyen** paraît être une idée **vague**, notamment par rapport à une signification bien définie.
En outre, le concept de **performance** et la notion bien moins tangible d’**intelligence humaine** sont deux choses très différentes — et comme l’a dit Mittelstadt, les assimiler ne semble pas pertinent.
Selon lui, “C’est une **erreur majeure** à éviter, car cela revient à attribuer une forme d’**agence**, de **compréhension**, de **cognition** ou de **raisonnement** à de tels modèles mécanistes.”
Mittelstadt n’est pas isolé dans sa critique.
Henry Shevlin, éthicien en IA et professeur à l’**Université de Cambridge**, a déclaré à **Insider** : “Une des choses que les architectures et modèles actuels de l’IA montrent, c’est qu’ils peuvent atteindre un **niveau de performance humain typique**. Ce n’est pas problématique en soi. Cependant, dès qu’il s’agit d’intelligence, les gens deviennent plus sensibles, et il y a de bonnes raisons à cela.”
La vision d’Altman soulève certaines inquiétudes, lui qui a une grande influence dans l’industrie. Il milite souvent pour des idées comme l’utilisation de l’IA pour résoudre des problèmes comme le **changement climatique**, l’instauration d’un **revenu de base universel**, ou encore la création d’énergies renouvelables. Par ailleurs, il a **déclaré** que la mission d’OpenAI est de veiller à ce que l’AGI, si elle venait à exister, **profite à l’ensemble de l’humanité**.
Cela dit, chacun a une vision différente de ce que signifie **sauver le monde** ou garantir que tout le monde bénéficie équitablement de l’IA. Dans ce contexte, la réalité est déterminée par une personne qui considère une grande partie de l’humanité comme de simples **chiffres** moyens, prêts à être remplacés par de l’IA.
Espérons qu’on réussisse tous à passer le test.
Plus d’infos sur OpenAI et ses ambitions : Les experts critiquent les promesses “inanité” d’OpenAI concernant l’AGI
FAQ
Qu’est-ce que l’intelligence générale artificielle (AGI) ?
L’AGI désigne une forme d’intelligence artificielle capable d’effectuer n’importe quelle tâche intellectuelle qu’un humain peut réaliser. Contrairement à l’IA spécialisée, l’AGI apprend et s’adapte comme un vrai être humain.
Pourquoi le terme “moyenne humaine” est-il problématique ?
Ce terme simplifie l’expérience humaine à un chiffre statique, négligeant la complexité et la diversité de l’intelligence humaine. Cela peut être perçu comme déshumanisant.
Quelles autres préoccupations sont soulevées par des experts sur l’IA ?
Les experts s’inquiètent des implications éthiques de l’IA, notamment le risque de biais, la perte d’emplois, et la difficulté de définir des normes de performance équitables.
Quels sont les objectifs d’OpenAI ?
OpenAI vise à développer des technologies d’IA qui bénéficieront à toute l’humanité, y compris la lutte contre le changement climatique et la promotion de l’égalité sociale à travers des solutions innovantes.
Quelle est l’importance de la recherche sur l’IA ?
La recherche sur l’IA est cruciale pour comprendre ses capacités, ses implications et pour élaborer des règlements éthiques qui protègent les individus et la société dans son ensemble.
