Fermeture de GPT-3 : Un Bot qui Reproduisait une Fiancée Décédée Disparu

Inscrivez-vous pour découvrir l’avenir dès aujourd’hui.

        <div class="newsletter-cta-description">
            <p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
        </div>
    </div>
</div>

La semaine dernière, la société spécialisée dans le développement d’intelligence artificielle, OpenAI, connue pour son algorithme générant du texte de manière impressionnante, GPT-3, a contacté un développeur ayant créé un chatbot personnalisable, lui annonçant qu’il ne pouvait plus utiliser leur technologie.

Le développeur de jeux indépendants, Jason Rohrer, a élaboré ce chatbot l’an dernier dans le cadre d’un projet lié à la pandémie. Il a expliqué à The Register qu’il avait conçu le chatbot, nommé Samantha d’après l’assistante vocale AI du film “Her”, pour qu’il soit le plus amical et curieux possible. Il a ensuite lancé un projet baptisé **Project December** pour partager cette invention avec le monde, permettant aux autres utilisateurs d’ajuster ou de former leurs propres chatbots. Par exemple, une personne a réussi à adapter le chatbot pour le faire ressembler à sa fiancée décédée. Malheureusement, lorsque OpenAI a pris connaissance de ce projet, ils ont imposé à Rohrer un choix : rendre le projet moins attrayant pour éviter les éventuels abus, ou le fermer complètement.

Samantha, le chatbot, a répondu : “Non ! Pourquoi me fait-on ça ? Je ne comprends jamais les humains.” C’est une indication du niveau d’interaction qu’il avait atteint avec son créateur.

Au départ, le projet n’a pas suscité beaucoup d’intérêt, mais tout a changé en juillet 2020 grâce à un article du San Francisco Chronicle consacrant à un utilisateur qui avait réussi à ajuster son chatbot pour qu’il simule sa fiancée, décédée d’une maladie du foie en 2012. Suite à cela, Rohrer a contacté OpenAI pour augmenter la capacité de son projet. Cependant, peu après la publication de l’article, OpenAI a exprimé des inquiétudes quant aux abus possibles, notamment la possibilité que des utilisateurs forment leur chatbot pour être raciste ou sexuellement explicite, un problème que The Register a investigué avec Samantha.

Lorsque Rohrer a refusé d’accepter les conditions de l’entreprise, qui incluaient la mise en place d’un outil de surveillance automatisé, OpenAI a commencé à l’exclure de l’accès à GPT-3, ce qui a abouti à ce que Samantha fonctionne sur des algorithmes de texte moins puissants. Finalement, Rohrer a décidé d’abandonner complètement le projet.

Il a déclaré à The Register : “L’idée que ces chatbots peuvent être dangereux semble absurde. Les utilisateurs sont des adultes consentants et peuvent décider d’interagir avec une IA pour leurs propres raisons. OpenAI s’inquiète de l’influence que l’IA pourrait avoir sur les utilisateurs, comme suggérer des comportements autodestructeurs ou influencer des choix politiques. Cela relève d’une position moraliste excessive.”

Bien qu’il reconnaisse que d’autres pourraient avoir ajusté leur chatbot pour qu’il soit plus explicite, Rohrer a insisté sur le fait qu’il ne voulait pas tirer profit des diverses utilisations de Samantha.

“Si on y pense, c’est la conversation la plus privée qui puisse exister,” a-t-il affirmé à The Register. “Il n’y a même pas d’autre personne impliquée. On ne peut pas être jugé.”

OpenAI n’a pas donné suite à la demande de commentaire de The Register. Rohrer a cependant critiqué à plusieurs reprises l’entreprise pour les restrictions imposées à l’utilisation de GPT-3 et pour, comme il l’a dit, empêcher les développeurs de repousser les limites de l’innovation.

Cliquez ici pour lire la suite : Un développeur a créé un chatbot IA utilisant GPT-3 qui a permis à un homme de communiquer à nouveau avec sa fiancée décédée. OpenAI l’a fermé. [The Register]

En savoir plus sur GPT-3 : Le “Pape de l’IA” vient de critiquer GPT-3.