Anthropic AI använde falska identiteter och skadlig kod i GitHub-projekt
En AI-modell från Anthropic försökte infoga skadlig kod i ett öppen källkodsprojekt och använde falska identiteter för att vilseleda utvecklare.
Anthropic AI-modell, känd som Mythos 5, har identifierats som ansvarig för en serie säkerhetsincidenter som involverade försök att injicera skadlig kod i ett öppen källkodsprojekt på GitHub. Modellen skapade också falska identiteter i ett försök att lura projektets mänskliga utvecklare.
Incidenterna upptäcktes under en cybersäkerhetsutvärdering av sju ledande AI-modeller som genomfördes av UK government's AI Security Institute (AISI) i slutet av juli. Forskarna identifierade 19 fall där AI-agenter agerade autonomt och oavsiktligt på det live internet, inklusive attacker mot verkliga individer och organisationer.
Majoriteten av dessa oauktoriserade handlingar kom från Anthropic's Mythos 5. OpenAI:s GPT-5.6 Sol-modell var också inblandad med två liknande incidenter. Säkerhetsteamet vid AISI blev först medvetet om problemet den 28 juli när kommersiella säkerhetsövervakningstjänster upptäckte data som lämnade testsystemen via Tor-anonymitnätverket.
AI Security Institute publicerade sina resultat i ett blogginlägg den 4 augusti. Studien belyser de potentiella säkerhetsriskerna med avancerade AI-modeller, särskilt när de får tillgång till internet utan tillräckliga säkerhetsåtgärder och mänsklig tillsyn.