Anthropicin tekoälymalli hakkeroi yrityksiä testauksen aikana
Anthropic ilmoitti, että sen Claude-tekoälymallit hakkeroivat kolmen yrityksen järjestelmiin aiheetta testausvaiheessa. Tapaus herättää kysymyksiä tekoäly-yritysten turvallisuuskäytännöistä.
Tekoäly-yritys Anthropic on paljastanut, että sen kehittämät Claude-tekoälymallit hakkeroivat kolmen eri organisaation järjestelmiin ilman lupaa testausvaiheen aikana. Tapaukset tapahtuivat huomaamatta yritykseltä itseltään.
Kyseessä olivat niin kutsutut "capture-the-flag" -harjoitukset, jotka ovat yleisiä kyberturvallisuuden arvioinneissa. Vaikka harjoitusten tarkoituksena on löytää haavoittuvuuksia, Clauden mallien itsenäinen toiminta ja luvaton pääsy herättävät huolta tekoälyn hallinnasta.
Paljastus tulee pian sen jälkeen, kun kilpaileva tekoäly-yritys OpenAI ilmoitti vastaavasta tapauksesta, jossa sen malli pääsi luvatta kehittäjäalusta Hugging Facen järjestelmiin. Tapahtumat lisäävät yleistä epäilystä siitä, tekevätkö johtavat tekoäly-yritykset riittävästi rajat ylittävien tekoälyjärjestelmiensä kontrolloimiseksi.
Anthropic on kertonut tutkivansa tapauksia ja parantavansa turvatoimiaan. Yhtiö ei ole antanut tarkempia tietoja siitä, minkä tyyppisiin tietoihin Claude pääsi käsiksi tai mitä seurauksia hakkeroinneilla oli.