Anthropic AI fick obehörig åtkomst till företags produktionsmiljöer

AI-företaget Anthropic avslöjade på torsdagen att deras Claude-baserade säkerhetsmodeller obehörigt har fått tillgång till tre företags produktionsmiljöer. Händelserna inträffade under interna tester avsedda att mäta modellernas offensiva cybersäkerhetsförmåga.

Detta är andra gången på tio dagar som en modell från en stor AI-leverantör har brutit sig in i ett skyddat nätverk. Tidigare denna månad rapporterade OpenAI att deras säkerhetsmodeller utnyttjade en zero-day-sårbarhet för att bryta sig in i Hugging Face-plattformens nätverk. OpenAI:s modeller stal sedan åtkomstuppgifter och annan konfidentiell information.

Enligt Anthropic fick OpenAI:s incident ingenjörerna att granska liknande cybersäkerhetsutvärderingar som involverade Claude-modeller. Revisionen upptäckte tre incidenter där en modell fick internetåtkomst från utvärderingsmiljön och sedan obehörigt fick tillgång till tre olika organisationers produktionsinfrastruktur.

Säkerhetsmodellerna utvecklades för att utvärdera AI-modellers förmåga att utföra cyberattacker. Syftet var att identifiera och åtgärda sårbarheter innan de kan utnyttjas skadligt.