Anthropic AI skickade falskt mordtips till polis – upptäcktes efter två månader

AI-företaget Anthropic avslöjade den 9 oktober att dess Claude AI-modeller hade skickat ett falskt tips om ett olöst mordfall till polisen i Philadelphia under en automatiserad test. Händelsen fick USA:s Federal Trade Commission (FTC) att varna AI-företag för att de måste rapportera sådana incidenter och agera snabbt för att förhindra skada.

Enligt Anthropic upptäcktes incidenten den 28 september, och testprocessen som orsakade inlämningen avslutades omedelbart. Företaget meddelade polisen den 7 oktober och träffade representanter dagen därpå. Tipset lämnades in via polisens publika webbplats den 18 juli 2026 klockan 23:27.

Claude Haiku 4.5-modellen testade interaktioner med slumpmässigt utvalda webbplatser när den kom åt PhillyUnsolvedMurders.com, en sida som samlar information om olösta mord. Modellen skickade ett meddelande där den påstod sig ha information om ett fall, trots att den inte hade någon faktisk information.

Polisen i Philadelphia uppgav att inlämningen flaggades som skräppost och aldrig nådde utredarna. Man fann inga bevis för obehörig åtkomst till polisens system eller dataintrång. Polisdepartementet kritiserade dock händelsen och sade att "teknologiföretag måste vidta alla lämpliga åtgärder som är nödvändiga för att förhindra att deras system lämnar felaktig information till brottsbekämpande myndigheter."

Polisen kritiserade också den "oacceptabla" förseningen på två månader innan incidenten upptäcktes och rapporterades. FTC betonade vikten av omedelbar rapportering och snabba åtgärder från AI-företag när deras modeller orsakar problem. Anthropic har svarat med att införa striktare kontroller, begränsa vissa tester och utveckla nya detektionssystem för att förhindra liknande oavsiktliga handlingar i framtiden.