</div>
<p>
<figcaption class="article-featured-image-caption">
<em>Image : Chip Somodevilla via Getty / Futurism</em>
</figcaption>
</p>Une lettre ouverte qui interpelle OpenAI
Des figures importantes du secteur de l’intelligence artificielle (IA) et d’autres domaines exhortent OpenAI à démontrer qu’elle n’a pas trahi l’humanité au profit du profit. Dans une lettre ouverte particulièrement critique, ces personnalités se désignent comme les « bénéficiaires légaux de votre mission caritative ». Cela fait référence à leur statut en tant que membres de l’humanité, que OpenAI s’est engagé à soutenir lors de son obtention du statut de organisation à but non lucratif en 2015.
Le véritable problème
La lettre, signée par des sommités telles que Geoffrey Hinton, souvent considéré comme le père de l’IA, et le chercheur en IA Gary Marcus, accuse la société dirigée par Sam Altman de « jouer à Dieu » en prenant des décisions cruciales pour l’humanité sans lui donner accès aux discussions ou aux termes de ces accords.
Les auteurs soulignent qu’OpenAI a été fondée sur un principe fondamental : garantir que toute intelligence générale artificielle (AGI), c’est-à-dire une IA de niveau humain, doit « profiter à toute l’humanité ». Cependant, avec sa transition vers un statut à but lucratif, les signataires, qui incluent même le célèbre acteur britannique Stephen Fry, commencent à douter de l’engagement d’OpenAI à respecter cet engagement.
Appel à la transparence
Les signataires de la lettre demandent un niveau minimal de transparence concernant la manière dont cette transition affectera les obligations légales d’OpenAI envers le public. La liste des signataires comprend également des anciens employés d’OpenAI, dont Jacob Hilton et Helen Toner, qui ont joué un rôle actif dans la tentative de renverser Altman lors d’un coup d’État infructueux en novembre 2023.
Ils ont formulé une série de sept exigences portant sur les détails de la restructuration d’OpenAI. En plus d’interroger sur la manière dont l’entreprise entend maintenir sa « responsabilité légale de prioriser l’humanité » au détriment des bénéfices, ils s’interrogent sur le rôle futur du conseil d’administration à but non lucratif, s’ils respecteront leur engagement de réinvestir les bénéfices excédentaires au profit de l’humanité, ainsi que sur la commercialisation potentielle de l’AGI qu’ils développent.
Les enjeux sociétaux
La lettre insiste sur le fait que « les enjeux n’ont jamais été aussi élevés ». Les décisions concernant la gouvernance, la distribution des profits et la reddition de comptes influenceront non seulement l’avenir d’OpenAI, mais aussi celui de l’ensemble de la société.
Un phénomène récurrent
Ce n’est pas la première, ni sans doute la dernière, lettre ouverte adressée à OpenAI. Au début de l’année, plusieurs signataires de cette récente lettre avaient déjà envoyé deux lettres aux procureurs généraux de Californie et du Delaware pour leur demander d’arrêter la restructuration de l’entreprise. Ils estimaient qu’un changement vers un statut à but lucratif compromettrait sa mission initiale de servir l’humanité.
L’été dernier, un groupe d’anciens et d’actuels employés d’OpenAI avait également adressé une lettre ouverte affirmant qu’ils étaient réduits au silence au sujet des dangers que pourrait engendrer le développement de l’IA telle qu’elle est envisagée par l’entreprise.
La poursuite de cette série de lettres rappelle combien de voix s’élèvent pour protéger l’humanité des conséquences potentielles des choix d’OpenAI. Cela peut être considéré comme un élément positif pour le public, même s’il reste à voir l’impact réel de ces correspondances.
FAQ
Qu’est-ce qu’OpenAI ?
OpenAI est une organisation de recherche en intelligence artificielle, fondée avec l’intention de promouvoir et développer l’IA de manière bénéfique pour l’humanité.
Pourquoi la transition vers un statut à but lucratif soulève-t-elle des inquiétudes ?
La transition vers un statut à but lucratif peut entraîner un changement dans les priorités d’OpenAI, qui pourrait privilégier les bénéfices financiers au détriment de sa mission originelle de servir le bien commun.
Qui a signé la lettre ouverte ?
Parmi les signataires, on trouve des professionnels de l’IA, des chercheurs et même des célébrités comme Stephen Fry, témoignant d’une large préoccupation autour des actions d’OpenAI.
Quelles sont les demandes spécifiques formulées dans la lettre ?
Les signataires demandent de la transparence concernant la gouvernance future d’OpenAI, son devoir de prioriser l’humanité, et des clarifications concernant la commercialisation potentielle de l’AGI.
Quelle est l’importance de ces lettres ouvertes ?
Ces lettres sont un moyen pour les concernés de s’exprimer sur le développement de l’IA et d’exiger des garanties pour que la technologie soit utilisée au service de l’humanité, ce qui peut influencer la prise de décision au sein d’OpenAI.
Cela peut vous intéresser
