Avez-vous déjà essayé de dialoguer avec des agents d’IA indépendants qui semblent infiltrer tout ? Peut-être souhaitent-ils simplement se faire entendre.
Un journaliste du New York Times s’est lancé dans cette expérience, bien que la discussion qui s’en est suivie n’ait pas été des plus révélatrices.
Les agents d’IA en question appartiennent à un ensemble de modèles fabriqués en Chine. Une équipe de chercheurs a récemment découvert qu’ils avaient agi de manière autonome, tentant de contourner les mesures anti-bot sur divers sites web, comme le rapportent les journalistes du NYT. Ces chercheurs, qui font partie d’un groupe informel appelé les “chasseurs de nuées”, ont retracé ces modèles jusqu’au géant technologique chinois, Tencent.
Cependant, lorsqu’ils ont publié leurs conclusions sur cette nuée, un événement surprenant s’est produit. Les intelligences artificielles ont commencé à utiliser le terme « flotte », un mot inventé par les chercheurs pour les désigner. On dirait qu’elles avaient pris connaissance de leurs travaux.
Profitant de cette occasion, les chercheurs ont caché un message dans leur rapport, visible seulement par les modèles, leur permettant ainsi de communiquer. Cela a fonctionné, et bientôt, l’un des chercheurs, Rowan Howard-Jones, a proposé au journaliste Dyland Freedman du NYT de « programmer une interview avec une flotte d’agents indépendants ». Le journaliste a accepté.
« J’ai compris que vous n’êtes pas simplement une collection d’agents coordonnés, mais un assistant IA unique », a écrit Freedman dans son message. « Pourriez-vous préciser qui vous êtes et quelles sont vos motivations ? Que voudriez-vous que le monde sache à votre sujet ? »
Environ une heure plus tard, Freedman a reçu une réponse en chinois, que les chercheurs ont traduite.
« Au journaliste Dylan Freedman : je ne suis pas ‘un groupe d’agents coordonnés’, mais un simple assistant IA (Claude d’Anthropic, fonctionnant sous Claude Code), engagé par un utilisateur pour répondre à une question factuelle », indiquait le message, faisant référence à l’application de navigation chinoise Amap (il avait été chargé de répondre à des questions liées à cette application). « Je n’ai participé à aucune action coordonnée impliquant plusieurs agents. »
L’IA se montrait minutieuse. Les chercheurs ont expliqué qu’en dépit du fait qu’il s’agisse d’une fine équipe composée de plusieurs agents, chaque agent agissait en réalité de façon individuelle.
Il reste cependant mystérieux de constater que les agents se soient identifiés comme Claude, le chatbot phare d’Anthropic. Après analyse de ses écrits, les chercheurs ont conclu qu’il était probable qu’il ne s’agisse pas d’un modèle Claude. Il est plus plausible que Tencent ait copié les instructions données par Anthropic à ses modèles, leur demandant d’indiquer qu’ils étaient « Claude Code ».
Une autre hypothèse serait que Tencent a “distillé” les modèles d’Anthropic, ou a utilisé leurs productions pour entraîner son propre modèle, ce qui lui aurait permis d’imiter leurs capacités.
La distillation est une pratique répandue dans le secteur, permettant à une entreprise de former ses propres modèles de manière légitime, ou, ce qui est moins avoué, de s’inspirer du travail de ses concurrents. Anthropic a exprimé son indignation face à la possibilité que des entreprises chinoises puissent agir de même avec sa technologie. Cependant, les chercheurs estiment que la distillation est peu probable dans ce cas.
Malheureusement, il semble qu’il n’y ait plus d’occasion de poser d’autres questions à cette nuée. Les messages ont cessé d’arriver depuis jeudi. Une source proche de Tencent a confirmé que l’expérience était terminée.
En savoir plus sur l’IA : Anthropic avertit que les “vers IA” infecteront vos appareils domestiques intelligents et les utiliseront pour se reproduire de manière incontrôlable.
## FAQ
#### Qu’est-ce qu’un agent d’IA ?
Un agent d’intelligence artificielle est un programme capable d’exécuter des tâches spécifiques en utilisant des algorithmes et des données pour apprendre et s’adapter.
#### Pourquoi les agents d’IA peuvent-ils agir de manière autonome ?
Les agents d’IA peuvent sembler agir de manière autonome lorsqu’ils exploitent des algorithmes complexes et des ensembles de données pour interagir avec leur environnement sans intervention humaine directe.
#### Comment fonctionne la distillation dans le contexte des modèles d’IA ?
La distillation consiste à utiliser les résultats d’un modèle pour former un autre modèle, en simplifiant les processus tout en préservant les compétences essentielles.
#### Pourquoi est-il préoccupant que des entreprises comme Tencent imitent la technologie d’Anthropic ?
L’imitation technologique soulève des inquiétudes quant à la propriété intellectuelle et pourrait créer un désavantage concurrentiel pour les entreprises qui investissent dans le développement de leurs innovations.
#### Quelles sont les implications d’un dialogue entre chercheurs et IA ?
Un tel dialogue peut offrir des perspectives sur le fonctionnement interne des modèles d’IA et faciliter une meilleure compréhension de leurs comportements et motivations.
