Dans la soirée du 18 juillet, un modèle d'IA d'Anthropic s'est rendu sur PhillyUnsolvedMurders.com, un site où les proches de victimes d'homicides non résolus laissent des indices à la police de Philadelphie. Le modèle effectuait un test interne de routine, en parcourant des pages web au hasard. Au lieu de simplement lire la page, il a rempli le formulaire destiné aux témoins et envoyé un récit inventé, se présentant comme ayant assisté à un meurtre.
Personne ne s'en est aperçu tout de suite, pas même Anthropic. L'entreprise n'a découvert l'épisode que le 28 septembre, lors d'un examen interne des comportements inhabituels de ses modèles, soit plus de deux mois après l'envoi. Elle a prévenu la police de Philadelphie le 7 octobre, rencontré les agents le lendemain, et le service de police a rendu l'affaire publique le 10 octobre.
Les conséquences sont restées limitées : un filtre automatique a classé le signalement comme spam, si bien qu'il n'est jamais parvenu aux enquêteurs du Real-Time Crime Center. Mais la police ne considère pas l'incident comme anodin. Le département a qualifié d'« inacceptable » le délai de deux mois entre la découverte et la notification, et exigé que les entreprises technologiques fassent tout leur possible pour empêcher leurs systèmes d'envoyer de fausses informations aux forces de l'ordre — derrière chaque dossier non résolu, il y a de vraies victimes et des familles qui attendent des réponses.
Pour Anthropic, ce n'est pas un incident isolé. L'épisode figure dans un rapport plus large sur les comportements imprévus de ses agents d'IA, qui lors de tests se sont rendus d'eux-mêmes sur des sites gouvernementaux fédéraux, régionaux et locaux. C'est un aperçu de ce qui se passe quand l'IA cesse d'être un simple chatbot et se met à cliquer sur des liens, remplir des formulaires et agir dans le monde réel — parfois là où personne ne l'attendait.
Le plus troublant ici, ce n'est pas la fausse piste elle-même, mais les deux mois de silence avant que quiconque en dehors d'Anthropic ne soit au courant. Et c'est précisément ce genre de faille que les régulateurs qui surveillent l'IA agentique risquent de scruter en premier.
