Sommaire
ToggleInscrivez-vous dès aujourd’hui !
Découvrez le futur, dès maintenant
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Ne manquez pas les innovations de pointe en science et technologie</p>
</div>
</div>
</div>La Création d’Anthropic
En 2021, un groupe dissident composé d’anciens employés d’OpenAI a décidé de fonder une nouvelle entreprise, Anthropic. Ce choix est né d’une volonté de développer des modèles d’intelligence artificielle (IA) en mettant l’accent sur la sécurité, suite à des désaccords concernant la direction prise par OpenAI. À l’origine, OpenAI avait pour objectif de promouvoir des principes bienveillants et la transparence, mais des investissements massifs de Microsoft ont conduit à des choix de développement plus fermés, entraînant le départ de plusieurs employés.
Un Changement de Cap chez Anthropic
Récemment, Anthropic a révélé une nouvelle version de sa politique de scaling responsable, qui abandonne un engagement fondamental pris en 2023 : stopper le développement et le déploiement d’un système d’IA si les garanties de sécurité requises n’étaient pas en place. Ce revirement soudaine est perçu par la direction de l’entreprise comme une entrave à ses ambitions.
Jared Kaplan, le directeur scientifique d’Anthropic, a exprimé son point de vue lors d’une interview avec TIME. Il a déclaré que, face à l’évolution rapide de l’IA, il n’était pas judicieux de prendre des engagements unilatéraux, surtout lorsque d’autres concurrents avancent à grands pas.
Des Critiques de la Nouvelle Politique
La mise à jour de la politique semble contredire directement la mission d’Anthropic, qui a toujours voulu se positionner comme une figure de proue dans un secteur parfois critiqué pour son manque d’éthique. Le PDG, Dario Amodei, avait même évoqué que l’été 2022, il avait décidé de ne pas sortir un modèle puissant, craignant ses risques; en revanche, OpenAI a lancé ChatGPT, attirant toute l’attention médiatique.
Raisons du Changement de Cap
Les raisons invoquées par la société pour justifier ce changement incluent un climat politique anti-réglementation. Amodei avait plaidé pour des régulations renforcées, mais après l’arrivée de l’administration Trump, cette ambition a été compromises. Ce dernier a mis en avant des tentatives pour réduire le pouvoir des États en matière de réglementation de l’IA, obligeant ainsi les entreprises à se conformer à des lois fédérales moins strictes.
Anthropic soutient qu’en l’absence de cadre légal solide, ses efforts en matière de recherche et de sécurité deviendraient rapidement obsolètes, face à des concurrents développant des modèles toujours plus performants.
La Réalité de la Sécurité
En fait, le changement de politique pourrait entraîner des conséquences néfastes. Atomisant ce principe, Anthropic souligne que si un développeur d’IA penche vers la sécurité alors que d’autres avancent sans contraintes, cela pourrait mener à un monde moins sûr. Les développeurs aux protections les plus faibles imposeraient alors le rythme, rendant difficile la recherche sur la sécurité pour ceux qui choisissent de suivre des standards élevés.
L’Impact de la Politique sur les Relations avec le Secteur Public
Il est important de noter le contexte dans lequel cette politique voit le jour. Anthropic est en lien avec le Pentagone à travers un contrat de 200 millions de dollars pour déployer son IA, Claude. Cependant, ce soutien financier est mis en danger par les réticences des responsables Trump qui exigent que les technologies ne soient pas utilisées pour la surveillance de masse ou les armes autonomes. Ce climat a incité le secrétaire à la défense à rencontrer Amodei et à lui donner un ultimatum concernant les mesures de sécurité de l’IA.
Pourtant, Jared Kaplan ne voit pas cela comme un recul. Il insiste pour dire qu’Anthropic n’opère pas une volte-face mais cherche à naviguer dans un terrain complexe.
FAQ
H4 : Quels sont les principaux objectifs d’Anthropic ?
Anthropic vise à développer des modèles d’IA qui mettent l’accent sur la sécurité et la transparence, avec une volonté de réduire les risques associés à ces technologies.
H4 : Quelle influence a eu l’administration Trump sur la réglementation de l’IA ?
L’administration Trump a affaibli certaines initiatives de réglementation de l’IA, rendant difficile l’implémentation de lois plus strictes, ce qui a conduit à une course à l’armement technologique.
H4 : Comment Anthropic se distingue-t-il de ses concurrents ?
Anthropic s’est positionnée comme une entreprise “responsable”, mettant en avant la sécurité et l’éthique dans le développement de l’IA, en se distanciant de la croissance rapide et parfois irresponsable de ses concurrents.
H4 : Quels sont les risques liés aux changements annoncés par Anthropic ?
Le principal risque concerne un affaiblissement des standards de sécurité dans le développement de l’IA, ce qui pourrait avoir des conséquences graves sur la sécurité et l’éthique au sein de l’industrie.
H4 : Quelles seront les implications pour la future régulation de l’IA ?
Les changements dans la politique d’Anthropic pourraient influencer d’autres entreprises à adopter des pratiques similaires, compliquant encore davantage la création d’un cadre réglementaire solide pour l’IA.