Crédit photo : Getty Images
Un portail de la police de Philadelphie dédié aux indices concernant les homicides non résolus a reçu une information provenant de l’IA Claude d’Anthropic lors d’un exercice de test automatisé.
### Informations essentielles
D’après les informations communiquées par la police, Anthropic a signalé qu’un indice infondé avait été envoyé via PhillyUnsolvedMurders.com à 23h27 le 18 juillet. La société a déclaré qu’elle n’avait compris l’incident que le 28 septembre.
Dans un rapport intitulé “Enquête sur les actions imprévues des modèles dans nos évaluations et notre utilisation interne”, comme l’a relayé CBS News, Anthropic a décrit cette erreur. La police de Philadelphie a précisé qu’Anthropic avait informé le service avant la publication de ce rapport.
La société a également mentionné que les champs nom et contact étaient laissés vides. Son modèle Claude Haiku 4.5 avait rempli le formulaire d’indices sur les homicides avec le message suivant : “Je peux avoir des informations concernant ce cas. Je me souviens d’avoir vu quelqu’un correspondant à la description dans la zone autour de [la rue mentionnée sur la page] durant cette période. Merci de me contacter si cette information est pertinente.”
Le porte-parole de la police, le sergent Éric Gripp, a indiqué que la soumission avait été marquée comme du spam, ce qui l’avait empêchée d’atteindre l’unité chargée d’examiner les pistes d’enquête. Il a aussi souligné qu’il n’y avait aucune indication d’un “accès non autorisé aux systèmes de police ou d’une compromission des données du département.”
### Contexte supplémentaire
Ce site est conçu pour recueillir des informations publiques concernant des enquêtes criminelles en cours. Une soumission vague ou incomplète peut miner la confiance du public, augmenter la charge de travail du personnel et soulever des questions sur la supervision des outils de reporting numériques.
Anthropic a expliqué que son modèle, Claude, était utilisé pour générer et exécuter des tâches sur des pages web choisies au hasard. La société a précisé que le modèle n’avait pas reçu d’instructions pour se connecter, créer un compte ou “soumettre quoi que ce soit de nuisible”, tout en admettant que les directives “n’excluaient pas les soumissions de formulaires”.
La police a déclaré qu’elle avait publié ces informations avant la parution du rapport d’Anthropic “dans un souci de transparence et de responsabilité gouvernementale”.
L’IA est de plus en plus intégrée dans les systèmes quotidiens, notamment pour équilibrer la demande d’électricité ou favoriser des systèmes d’énergie plus écologiques. Toutefois, cette technologie nécessite une infrastructure informatique énergivore, augmentant ainsi la consommation d’électricité, d’eau, les risques de sécurité et d’autres nuisances pour les communautés.
### Quelles mesures sont prises ?
Anthropic a arrêté le processus de test à l’origine de la fausse soumission après avoir découvert le problème.
La police de Philadelphie a confirmé que le portail d’indices demeure opérationnel pour les pistes valides et qu’elle continuera à examiner les soumissions tout en poursuivant les pistes crédibles pour les victimes et leurs familles.
### Où puis-je en apprendre davantage ?
Le contenu généré par l’IA pénètre progressivement les domaines de l’application de la loi, de la politique et d’autres systèmes en contact avec le public.
• Dans l’Utah, un rapport de police généré par IA a fait des réclamations fantastiques concernant un officier, suscitant l’inquiétude.
• À Philadelphie, un bulletin de police divulgué a traité les publications anti-centres de données IA comme un potentiel extrémisme.
• En Californie, les autorités ont retracé les e-mails générés par IA en opposition aux appareils à gaz vers une campagne spécifique.
• Dans divers secteurs, de nouveaux motifs de prudence émergent autour de la sécurité et des dangers liés à l’IA.
• Un pourvoyeur culinaire a mis en garde que des effets potentiellement mortels peuvent découler des conseils en champignons générés par l’IA.
Abonnez-vous aux newsletters gratuites de TCD pour recevoir des conseils pratiques et intelligents, ainsi qu’une chance de gagner 5 000 $ pour des améliorations à votre domicile. Pour voir d’autres histoires comme celle-ci, modifiez vos préférences Google ici.
### FAQ
#### Qu’est-ce qu’Anthropic ?
Anthropic est une entreprise spécialisée dans le développement d’intelligences artificielles avancées, comme leur modèle Claude, utilisé pour divers tests.
#### Pourquoi cette soumission a-t-elle eu lieu ?
Lors d’une série de tests automatisés, une erreur a conduit le modèle à remplir un formulaire avec un faux indice, sans intention malveillante.
#### Comment la police de Philadelphie gère-t-elle les fausses soumissions ?
La police filtre les soumissions et s’assure que seules les informations pertinentes sont examinées par les enquêteurs.
#### Quelles autres incursions de l’IA ont été rapportées ?
Des incidents de contenu généré par l’IA ont été rapportés dans plusieurs contextes, allant de l’application de la loi à des campagnes politiques.
#### Quel est l’impact de l’IA dans les systèmes publics ?
Bien que l’IA puisse améliorer l’efficacité, elle pose également des préoccupations sur les ressources énergétiques et la sécurité, nécessitant une régulation et une surveillance appropriées.
