<p>
<figcaption class="article-featured-image-caption">
CAMBRIDGE, ANGLETERRE - 1ER NOVEMBRE : Sam Altman (à droite), PDG d'OpenAI, se trouve lors de sa visite au Cambridge Union pour recevoir la bourse de professeur Hawking au nom d’OpenAI, le 1er novembre 2023 à Cambridge, en Angleterre. (Photo de Nordin Catic/Getty Images pour The Cambridge Union) <em>Image : Nordin Catic/Getty Images pour The Cambridge Union</em>
</figcaption>
</p>Un Silence Troublant
La société OpenAI, créatrice de ChatGPT, porte le mot « ouvert » dans son nom, mais ses pratiques commerciales semblent radicalement opposées à l’idée de dialogue transparent.
Un article captivant de Vox révèle en effet des détails sur l’accord de non-divulgation (NDA) imposé aux employés d’OpenAI, un document obligatoire pour conserver leurs parts dans l’entreprise. Voici ce que Kelsey Piper, reporter chez Vox, a noté à propos de ces documents juridiques :
Il apparaît qu’il existe une raison très claire pour cela. J’ai eu accès à un accord de sortie très restrictif auquel les anciens employés d’OpenAI sont soumis, et qui contient des clauses de non-divulgation et de non-dénigrement. Cet accord interdit aux anciens employés, pour le reste de leur vie, de critiquer leur précédent employeur. Même le simple fait de reconnaître l’existence de cet accord constitue une violation.
Si un employé partant refuse de signer ce document ou en enfreint les règles, il risque de perdre la totalité de ses actions acquises durant son passage dans l’entreprise, somme qui peut atteindre des millions de dollars. Un ancien salarié, Daniel Kokotajlo, qui a exprimé avoir quitté OpenAI « faute de confiance dans une conduite responsable autour de l’AGI », a confirmé publiquement qu’il a dû renoncer à une somme considérable pour quitter sans signer cet accord.
Une Contradiction Insupportable
L’ampleur de l’egregiosité de cet NDA varie selon les secteurs d’activité et les droits des employés. Cependant, il est indéniable qu’il contredit l’idée d’ouverture qui est censée caractériser OpenAI, ainsi que le discours de l’entreprise sur le développement responsable et transparent de l’intelligence artificielle.
En réaction à l’article de Vox, OpenAI a proposé une dénégation énigmatique qui semble contredire les déclarations de Kokotajlo concernant l’abandon d’actions en quittant l’entreprise.
« Nous n’avons jamais annulé les actions acquises de tout ancien ou actuel employé, et nous ne le ferons pas si les gens ne signent pas un accord de non-divulgation ou de non-dénigrement lors de leur départ », a-t-elle affirmé. Lorsque Vox a demandé si cela signifiait un changement de politique, OpenAI a simplement répondu que cette déclaration « reflète la réalité ».
On peut envisager un monde où le développement de l’IA serait orienté par des universités et financé publiquement, plutôt que d’être dirigé par des entreprises à la recherche de profits. Cependant, il s’avère que nous ne vivons pas dans cette réalité, et il reste à déterminer comment cela influence le résultat de la recherche en IA.
Réflexions Finales
Plus d’informations sur OpenAI : Un chercheur a quitté OpenAI, exprimant son mécontentement face à la décision de l’entreprise de dissoudre l’équipe dédiée à empêcher une IA superintelligente de se retourner contre l’humanité.
FAQ
Quelle est la nature de l’accord de non-divulgation chez OpenAI ?
L’accord de non-divulgation est extrêmement restrictif et interdit aux anciens employés de critiquer leur ancien employeur sous peine de perdre leurs droits sur les actions acquises.
Quels sont les risques associés au refus de signer cet accord ?
Un employé qui refuse de signer pourrait perdre toutes les actions accumulées, ce qui pourrait représenter une perte financière considérable.
OpenAI a-t-elle modifié sa politique sur la non-divulgation ?
Bien que la société ait déclaré qu’elle ne supprime jamais les actions, des témoignages d’anciens employés suggèrent que cela pourrait ne pas refléter la réalité de manière précise.
Quelles sont les implications éthiques de ces pratiques ?
Ces accords soulèvent des questions éthiques concernant la transparence et la responsabilité des entreprises dans le développement de technologies avancées comme l’IA.
Y a-t-il des moyens d’ouvrir le dialogue sur ces questions ?
Oui, des discussions sur la réglementation, la transparence et le financement public peuvent aider à orienter le développement de l’IA vers des normes plus éthiques et responsables.