Anthropic et l’Avenir de l’Intelligence Artificielle
Alors que les entreprises d’intelligence artificielle (IA) s’efforcent de façonner l’avenir, Anthropic a décidé de rassembler une équipe dédiée à l’exploration des véritables enjeux de cet avenir.
Lancement de l’Institut Anthropic
Le 11 mars, Anthropic a annoncé la création de “L’Institut Anthropic”, une nouvelle branche de recherche destinée à aborder les défis sociétaux que l’IA peut engendrer. Jack Clark, cofondateur de l’entreprise, prendra la direction de l’institut en tant que Responsable de l’Intérêt Public.
Cet institut réunit un personnel interdisciplinaire composé d’ingénieurs en apprentissage automatique, d’économistes et de scientifiques sociaux, ainsi que trois équipes de recherche déjà existantes chez Anthropic.
Trois équipes de recherche
D’après le communiqué, l’institut regroupe plusieurs équipes :
- Équipe Rouge Frontier : Cette équipe teste en profondeur les systèmes d’IA pour cerner les limites de leurs capacités.
- Impacts Sociaux : Cette section se concentre sur l’usage réel de l’IA dans la société.
- Recherche Économique : Cette équipe analyse l’impact de l’IA sur les emplois et l’économie dans son ensemble.
Expansion de l’Équipe de Politique Publique
En plus de la création de l’institut, une expansion de l’équipe de politique publique a également été annoncée. Sarah Heck a été nommée à la tête de cette équipe après avoir occupé le poste de Responsable des Affaires Extérieures. Par ailleurs, l’entreprise prévoit d’ouvrir un bureau à Washington, D.C. cet été.
Pourquoi est-ce urgent ?
Anthropic a souligné l’importance de cette initiative, parlant d’une pression temporelle significative. Dans son blog, l’entreprise a mentionné que « l’évolution de l’IA a été extrêmement rapide » depuis sa création. En seulement cinq ans, elle a développé des modèles capables d’identifier des vulnérabilités graves en cybersécurité et même d’accélérer le développement de l’IA.
Avec des attentes de progrès encore plus marqués dans les années à venir, Anthropic prévient que le temps pour préparer la société à ces évolutions devient de plus en plus limité.
L’Institute s’attaquera à des questions épineuses comme « comment l’IA puissante transformera-t-elle les emplois et les économies ? » ou « quelles menaces cela pourrait-il engendrer ? ». Anthropic a déjà alerté la Maison Blanche sur le fait que le temps pour agir face aux enjeux de sécurité de l’IA est en train de s’écouler, avec l’éventualité de systèmes d’IA d’un calibre Nobel dès 2026.
Les problèmes soulevés par la création de l’Institut
Cet institut semble être une réponse à ces préoccupations, formant une équipe prête à poser les questions difficiles au lieu de les cacher dans des documents internes.
Qui est derrière l’Institut ?
Pour constituer le nouveau groupe de recherche, Anthropic a fait des recrutements importants. Parmi ceux-ci :
- Matt Botvinick, ancien directeur de recherche chez Google DeepMind, est maintenant responsable des questions liées à l’IA et à l’État de droit.
- Anton Korinek arrive de l’Université de Virginie, où il s’occupera de l’étude sur comment l’IA pourrait transformer les activités économiques.
- Zoë Hitzig, auparavant à OpenAI, se concentrera sur le lien entre la recherche économique d’Anthropic et le développement des modèles.
Ce qui distingue l’Institut
Anthropic affirme que l’Institut se démarque des recherches habituelles d’entreprise. Selon les termes de la société, il s’agit d’« une rue à double sens ». L’institut ne se limite pas à des publications internes ; il interagira également avec les travailleurs touchés par la perte d’emplois, les secteurs en mutation et les communautés laissées de côté par les avancées technologiques.
Cet esprit d’ouverture correspond à une demande pressante de transparence dans l’industrie de l’IA. Les efforts concrets pour la responsabilité dans ce domaine sont encore rares. La réussite de l’Institut dépendra de la capacité à intégrer ses découvertes dans les décisions stratégiques d’Anthropic.
A lire également : Microsoft a soutenu Anthropic après que le Pentagone a classé cette entreprise d’IA comme un risque pour la chaîne d’approvisionnement, intensifiant un débat sur l’utilisation de l’IA pour la surveillance de masse ou les armes autonomes.
FAQ
Qu’est-ce que l’Institut Anthropic ?
L’Institut Anthropic est une branche de recherche créée pour étudier les défis sociétaux posés par l’IA et trouver des solutions.
Quels types de recherches seront menées ?
L’institut s’intéressera aux effets de l’IA sur l’emploi, l’économie et les implications sociétales de son déploiement.
Qui finance l’Institut ?
Bien que des détails spécifiques de financement ne soient pas précisés, l’institut travaille sous l’égide d’Anthropic, qui est soutenue par plusieurs investisseurs dans le domaine technologique.
Pourquoi est-ce important pour la société ?
Cette initiative est essentielle car elle vise à anticiper les impacts de l’IA sur la vie quotidienne et à préparer les stratégies nécessaires pour faire face à ces changements.
Comment les résultats de l’Institut seront-ils utilisés ?
Les résultats seront non seulement documentés pour une utilisation interne, mais aussi partagés avec les communautés concernées pour mieux répondre aux enjeux liés à l’IA.
