Le départ de Miles Brundage et l’alerte sur l’AGI
OpenAI a récemment connu un bouleversement majeur avec la démission de Miles Brundage, le chercheur responsable de s’assurer que l’entreprise soit prête à accueillir l’intelligence générale artificielle (AGI). Ce départ soulève des inquiétudes sur la préparation du monde face aux défis à venir.
Un départ difficile et un profond sentiment d’urgence
Dans un article publié sur son Substack personnel, Brundage a partagé ses réflexions sur sa décision de quitter ce qu’il décrit comme son « emploi de rêve » après six ans. Il explique qu’il ressent une responsabilité immense concernant l’émergence de cette technologie, qu’il considère comme destinée à rivaliser avec l’intelligence humaine.
Selon ses propres mots, il a choisi de « faire entendre sa voix » sur le développement de l’IA depuis l’extérieur de l’industrie, plutôt que de l’intérieur. Cela souligne une volonté d’influencer le cours de cette technologie, en dehors des structures traditionnelles.
Une réalité préoccupante
Brundage a insisté sur un point crucial : ni OpenAI, ni d’autres laboratoires de pointe ne sont équipés pour gérer l’AGI. Sa déclaration laisse entendre que le monde, dans son ensemble, n’est pas prêt à faire face à cette technologie encore théorique.
Bien qu’il ait partagé ses préoccupations avec les dirigeants d’OpenAI, il a également expliqué que, selon lui, le terme AGI est souvent mal compris et peut prêter à confusion. Il plaide pour une vision moins binaire de l’AGI, soulignant qu’il existe « différents niveaux de cette technologie ».
La hiérarchie des niveaux d’IA
Brundage a joué un rôle clé dans l’élaboration d’un système de classification en cinq niveaux d’IA/AGI chez OpenAI, qui a récemment été divulgué par Bloomberg. Ce système propose une échelle où le monde serait aujourd’hui au seuil du niveau deux, impliquant une intelligence artificielle capable de raisonnement similaire à celui d’un humain. Toutefois, il reste convaincu que tant OpenAI que le monde extérieur ne sont pas préparés à ces avancées.
Malgré son potentiel à bénéficier à l’humanité dans son ensemble, il insiste sur le fait que l’AGI ne le fera pas automatiquement. Les humains responsables de son développement doivent mener ce processus avec précaution. Cela pourrait indiquer qu’il a des réserves quant à la manière dont OpenAI gère l’éthique et la réglementation de cette technologie.
Changements organisationnels en cours
Suite à son départ, OpenAI a annoncé qu’elle allait réaffecter des membres de son équipe d’préparation à l’AGI vers d’autres départements. Ce changement survient moins de six mois après la dissolution de son équipe de sécurité de l’IA, ce qui n’est pas de bon augure dans un contexte où la direction de l’entreprise est déjà secouée par ce départ important.
FAQ
Pourquoi Brundage a-t-il quitté OpenAI ?
Brundage a quitté OpenAI en raison de son désir d’influencer l’IA depuis l’extérieur, estimant avoir une grande responsabilité face aux enjeux moraux et éthiques de l’AGI.
Quels sont les niveaux de l’AGI établis par OpenAI ?
OpenAI a développé une échelle en cinq niveaux pour classer l’IA et l’AGI, où le niveau deux représente une intelligence capable de raisonnement humain.
Quel est le principal risque associé à l’AGI selon Brundage ?
Il avertit que, bien que l’AGI pourrait profiter à l’humanité, son développement ne doit pas être pris à la légère et nécessite une supervision rigoureuse.
Quelles peuvent être les implications de la réorganisation chez OpenAI ?
La réaffectation des membres de l’équipe d’AGI pourrait signaler un changement de priorités de l’entreprise, affectant potentiellement ses futurs projets et sa recherche en matière de sécurité.
Quels sont les défis éthiques soulevés par l’AGI ?
Les défis incluent la responsabilité des concepteurs, les impacts sociaux de l’AGI et la nécessité de règles et réglementations pour éviter des abus dans son utilisation.
