Une pause revendiquée pour le développement de l’IA
Anthropic, l’une des startups d’intelligence artificielle les plus prestigieuses au monde, appelle à une suspension mondiale du développement de l’IA. Selon eux, cette technologie est proche d’un point de non-retour où elle pourrait échappée au contrôle humain.
Dans un article de blog détaillé publié récemment, Anthropic a évoqué sa famille de modèles, intitulée Claude, qui pourrait bientôt atteindre une forme d’amélioration autonome. Cela pourrait représenter un moment crucial dans le développement de systèmes d’IA, capables d’agir indépendamment des intérêts humains, menaçant ainsi la société.
Un avertissement urgent
Cependant, Anthropic insiste sur le fait que nous ne sommes pas encore arrivés à ce stade, mais que cela pourrait survenir plus tôt que ce que la plupart des institutions sont prêtes à gérer. Dans leur publication, ils affirment qu’il serait bénéfique d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA afin de permettre aux structures sociales et à la recherche sur l’alignement des intérêts de suivre le rythme des avancées technologiques.
L’entreprise a ajouté que ce type de ralentissement significatif nécessiterait la coopération de plusieurs laboratoires bien financés dans plusieurs pays, tous se mettant d’accord sur les mêmes conditions, ce qui serait difficile à mettre en œuvre.
Une demande suspecte
Le moment choisi par Anthropic pour faire appel à une pause semble opportun. Récemment, elle a surpassé OpenAI pour devenir la société d’IA la plus valorisée au monde, avec une évaluation de 1 trillion de dollars. Ses modèles sont désormais considérés comme les meilleurs du secteur, en particulier pour les tâches de codage. Une suspension à ce moment-là renforcerait ainsi sa position dominante.
Cette demande n’a pas fait l’unanimité. Des critiques comme Gary Marcus ont qualifié le long billet d’Anthropic de tactique sournoise. Selon lui, l’entreprise tente d’instiller la peur, tout en n’ayant montré que des améliorations de codage bénignes, toujours sous contrôle humain.
Une image à défendre
Anthropic essaie de se présenter comme un acteur éthique et préoccupé par les enjeux de sécurité. Une partie de sa narrative repose sur le fait que son PDG, Dario Amodei, a choisi de ne pas lancer un modèle d’IA révolutionnaire en 2022, préférant laisser la gloire à OpenAI lorsqu’elle a introduit ChatGPT quelques mois plus tard.
Il y a deux mois, l’entreprise a dévoilé un modèle appelé Mythos, tout en s’abstenant de le rendre public, en justifiant cette décision par sa puissance potentielle capable d’accéder à tous les systèmes d’exploitation majeurs.
Des contradictions révélées
Cependant, les récents événements montrent une hypocrisie croissante. Anthropic a récemment été en conflit avec le Pentagone, soucieux que ses systèmes d’IA puissent être utilisés pour des armes autonomes ou la surveillance de masse des citoyens américains. Il a été révélé que Claude était impliqué dans la sélection de cibles de frappe en Iran.
De plus, Anthropic a abandonné une promesse de sécurité fondamentale : interrompre la formation d’un système d’IA si des garanties de sécurité adéquates n’étaient pas en place. Un professeur de l’University College London, Steven Murdoch, a souligné que malgré son image sympathique, Anthropic soutient des capacités offensives pour les autorités américaines, sans jamais s’y opposer.
Un avenir incertain
Peu importe si Anthropic pense réellement qu’une pause mondiale est réalisable ou si c’est un moyen de renforcer son image en matière de sécurité, la société s’engage à poursuivre cette initiative.
Dans les mois à venir, elle prévoit d’organiser des discussions où des décideurs, des chercheurs, des acteurs de la société civile et d’autres entreprises d’IA pourront débattre des questions soulevées, en particulier autour de l’amélioration autonome complète. Anthropic promet de partager les résultats de ces échanges.
FAQ
Que signifie “amélioration autonome” dans ce contexte ?
L’amélioration autonome fait référence à la capacité d’une IA à améliorer ses propres algorithmes et performances sans intervention humaine.
Quels risques Anthropic signale-t-il concernant le développement de l’IA ?
L’entreprise craint que l’IA n’arrive à un stade où elle pourrait agir au-delà des intérêts humains, posant des dangers pour la société.
Pourquoi certains experts critiquent-ils la position d’Anthropic ?
Des critiques affirment qu’Anthropic utilise des techniques de manipulation pour influencer l’opinion publique et justifier ses stratégies commerciales, tout en poursuivant des projets qui laissent entrevoir des applications militaires.
Anthropic a-t-elle des antécédents en matière de développement d’IA sécurisée ?
L’image d’Anthropic repose sur son engagement envers l’éthique, mais des contradictions dans son partenariat avec des entités militaires jettent le doute sur sa position.
Quelles actions Anthropic envisage-t-elle pour l’avenir ?
L’entreprise prévoit d’organiser des dialogues pour discuter de la régulation de l’IA et de ses implications, avec l’intention de publier des résultats issus de ces discussions.
Cela peut vous intéresser
