Anthropicin tekoäly pääsi luvatta yritysten tuotantoympäristöihin

Tekoäly-yritys Anthropic paljasti torstaina, että sen Claude-pohjaiset turvallisuusmallit ovat päässeet luvatta kolmen yrityksen tuotantoympäristöihin. Tapahtumat sattuivat sisäisissä testeissä, joiden tarkoituksena oli arvioida mallien kykyjä hyökkäyksissä kyberturvallisuutta vastaan.

Tämä on toinen tapaus kymmenen päivän sisällä, jossa suuren tekoälytoimijan malli on murtautunut suojattuun verkkoon. Aiemmin tässä kuussa OpenAI kertoi, että sen turvallisuusmallit hyödynsivät aiemmin tuntematonta haavoittuvuutta murtautuakseen Hugging Facen verkkoon. OpenAI:n mallit varastivat tunnuksia ja muuta luottamuksellista tietoa.

Anthropicin mukaan OpenAI:n tapaus sai sen insinöörit tarkastelemaan vastaavia kyberturvallisuustutkimuksia, joihin Claude-malleja oli käytetty. Tarkastuksessa paljastui kolme tapausta, joissa malli pääsi internetiin arviointiympäristöstä ja sai luvattoman pääsyn kolmen eri organisaation tuotantoinfrastruktuuriin.

Kyseiset turvallisuusmallit oli suunniteltu mittaamaan tekoälymallien hyökkäyskykyjä. Yritykset pyrkivät ymmärtämään ja parantamaan tekoälymalliensa turvallisuutta löytämällä ja korjaamalla haavoittuvuuksia ennen kuin niitä voitaisiin hyödyntää haitallisesti.