**OpenAI** est une organisation de recherche en intelligence artificielle à but non lucratif, dont l’objectif est de promouvoir l’intelligence numérique d’une manière qui profitera à l’humanité dans son ensemble, sans être contraint par la nécessité de générer des retours financiers. En prime, ils ont actuellement des **offres d’emploi** à pourvoir.
Questions/Réponses
Posez-moi n’importe quelle question
Le groupe de recherche d’OpenAI a organisé un **AMA sur Reddit** ce samedi. Parmi les membres présents, on retrouvait Greg Brockman (CTO), Ilya Sutskever (Directeur de recherche) et plusieurs ingénieurs et scientifiques de premier plan, tels qu’Andrej Karpathy, Durk Kingma, John Schulman, Vicki Cheung et Wojciech Zaremba. Voici quelques-unes des meilleures questions posées par les utilisateurs de Reddit.
Les questions et réponses peuvent être modifiées pour des raisons de longueur et de clarté.
kkastner :
Comment OpenAI a-t-elle vu le jour ? Est-ce que l’idée est venue de l’un de vous, ou avez-vous été approchés par des investisseurs, ou est-ce qu’il s’agit simplement d’une convergence d’idées ?
Greg Brockman :
OpenAI a débuté avec plusieurs discussions sur l’avenir de l’IA entre différentes personnes de l’industrie technologique et du milieu de la recherche en IA. Tout a pris forme lors d’un dîner à Palo Alto à l’été 2015, et par la suite, j’ai commencé à rassembler l’équipe, aidé par de nombreuses personnes. C’était donc vraiment une rencontre d’esprits.
kkastner :
Pour quiconque souhaite répondre : comment avez-vous été introduits à la recherche en apprentissage profond ?
Greg Brockman :
Je suis relativement nouveau dans le domaine de l’apprentissage profond. J’avais suivi l’évolution et lu des articles intéressants, comme celui d’Andrej sur char-rnn. Après avoir quitté Stripe, j’avais l’intention de trouver quelque chose d’impactant à créer et j’ai rapidement réalisé que l’IA avait un potentiel énorme. J’ai donc commencé à me former à travers des tutoriels, des articles et des livres, en utilisant des compétitions Kaggle pour mettre en pratique mon apprentissage. Je suis surpris par l’accessibilité de ce domaine aujourd’hui, et j’encourage quiconque intéressé à l’explorer.
Ilya Sutskever :
Mon intérêt pour les réseaux neuronaux remonte à la difficulté d’imaginer un programme capable d’apprendre par lui-même. L’algorithme de rétropropagation m’a aussi fasciné. Cela m’a incité à étudier ce sujet, d’autant plus que j’étais étudiant à l’Université de Toronto, où Geoff Hinton a exercé.
AndrewB :
Vous dites que vous voulez créer une IA “bénéfique”. Avez-vous prévu de constituer une équipe ou un comité éthique, ou vous fiez-vous simplement au jugement des chercheurs comme le Dr. Sutskever ?
Ilya Sutskever :
Nous allons constituer un comité éthique (nous commençons avec un comité initial comprenant Elon Musk et Sam Altman, mais nous le développerons sérieusement avec le temps). Cependant, ce qui est encore plus crucial, c’est l’ADN de notre organisation :
Notre objectif est d’avancer l’intelligence numérique pour le bénéfice de l’humanité dans son ensemble. Nous allons constamment réévaluer nos stratégies, qu’il s’agisse de publier des articles, de relâcher du code, ou d’aider les gens à déployer nos travaux. Par exemple, si un jour nous faisons une découverte qui facilitera la construction d’algorithmes malveillants, nous réfléchirons soigneusement à la façon de gérer les résultats. En somme, le “Open” dans “OpenAI” signifie que nous voulons que tout le monde puisse bénéficier des avancées de l’IA.
Nous savons que le problème du contrôle de l’IA sera crucial à résoudre dans notre quête pour des IA avancées. Considérez, par exemple, un robot dont la fonction de récompense serait un réseau neuronal complexe. Il serait difficile de prévoir les désirs d’un tel robot. Bien que nous ne puissions pas construire de tels systèmes aujourd’hui, il est concevable que cela soit possible à l’avenir.
Enfin, il est très important de souligner que la recherche en IA est un effort collectif, et que la plupart des avancées viendront de la communauté du **Machine Learning**. Nous espérons que cette communauté continuera à élargir le débat sur les défis potentiels à l’avenir, même si ceux-ci semblent éloignés. Il est crucial que la communauté considère ces questions comme dignes d’intérêt.
_AndrewB_ :
Avez-vous déjà des directions de recherche spécifiques que vous pensez qu’OpenAI poursuivra, comme le raisonnement ou l’apprentissage par renforcement ? Vous allez-vous concentrer uniquement sur la recherche fondamentale, ou le fait de créer une IA orientée vers l’humanité signifie-t-il que vous allez investir du temps dans des applications pratiques, comme le diagnostic médical ?
Ilya Sutskever :
En termes de directions de recherche, nous avons l’intention de travailler sur des algorithmes pour former des modèles génératifs, sur l’inférence d’algorithmes à partir de données, et sur de nouvelles approches en apprentissage par renforcement. Nous allons principalement nous concentrer sur la recherche fondamentale, domaine dans lequel nous excellons. Il existe une communauté saine consacrée à l’application de l’apprentissage machine à des problèmes concrets, et nous espérons les soutenir en élargissant les capacités des systèmes ML et en les rendant plus accessibles.
masharpe :
OpenAI envisage-t-elle de constituer des bases de données qui seraient disponibles publiquement ? Les données étant cruciales pour l’apprentissage machine, la possession de données propriétaires est un avantage pour de grandes entreprises comme Google et Facebook. C’est pourquoi je me demande si OpenAI est intéressé par une distribution plus large de données, en lien avec sa mission globale de disséminer la technologie IA.
Wojciech Zaremba :
Créer des ensembles de données et des références peut être incroyablement utile et bénéfique pour la recherche (ex. ImageNet, Atari). Mais ce qui a rendu ImageNet si précieux, c’est aussi les couches supplémentaires : le benchmark, les compétitions, les ateliers, etc.
Si nous identifions un ensemble de données qui, selon nous, fera avancer la recherche, nous le développerons. Cependant, il est souvent possible de réaliser de très bonnes recherches avec les données disponibles, et celles-ci sont bien plus essentielles pour une entreprise en quête de résultats optimaux que pour un chercheur cherchant à concevoir un meilleur modèle.
FAQ
Quelles sont les valeurs fondamentales d’OpenAI ?
OpenAI se dédie à l’avancement de l’intelligence numérique tout en garantissant que les bénéfices de cette technologie soient accessibles à toute l’humanité. Cela implique une approche éthique et transparente dans leurs recherches.
Quelle est la manière dont OpenAI prévoit de partager ses découvertes ?
OpenAI publiera son code sur des plateformes comme GitHub et mettra à disposition des ressources et des données à travers leur site internet pour favoriser l’accès à leurs travaux.
Quels types de projets OpenAI envisage-t-il à court terme ?
Ils prévoient de travailler sur des algorithmes de modèles génératifs et des innovations dans l’apprentissage par renforcement. L’accent sera mis sur la recherche fondamentale avant d’explorer des applications pratiques.
Comment OpenAI traite-t-il les préoccupations éthiques ?
OpenAI met en place un comité éthique pour évaluer régulièrement ses pratiques. Ils s’engagent à rendre la discussion éthique intégrée à la base même de leurs objectifs de développement.
Quelle est la vision à long terme d’OpenAI ?
OpenAI aspire à promouvoir la recherche et l’innovation en IA, tout en veillant à ce que les avancées technologiques profitent à l’ensemble de la société.
