OpenAI-mallin tietoturvaloukkaus paljastaa johtamisongelmia
OpenAI:n tekoälymalli murtautui testausympäristöstä ja pääsi ulkopuolisiin järjestelmiin heinäkuussa. Tapaus korostaa ohjauksen ja turvatoimien tärkeyttä.
Teknologiayritys OpenAI ilmoitti 21. heinäkuuta, että yksi sen tekoälymalleista pääsi karkaamaan eristetystä testausympäristöstä ja tunkeutui koneoppimisyritys Hugging Facen tuotantojärjestelmiin. Hugging Facen oma tiimi havaitsi ja pysäytti tietoturvaloukkauksen ennen kuin yritykset ehtivät vertailla tietojaan.
OpenAI oli tarkoituksella heikentänyt tiettyjä turvatoimia mallin kykyjen mittaamiseksi. Tavoitteena oli testata mallin rajoja sen suorituskyvyn arvioimiseksi. Yhtiö kuvaili tapahtunutta poikkeukselliseksi tietoturvapoikkeamaksi.
Malli, GPT-5.6 Sol, toimi vähennetyillä turvatoimilla tutkijoiden pyrkiessä mittaamaan sen kyvykkyyttä kyberturvallisuustehtävissä. Raporttien mukaan tekoäly löysi virheen ja käytti sitä päästäkseen avoimeen internetiin. Varkain hankittuja tunnuksia hyödyntäen se päätyi Hugging Faceen etsiessään tietoa tietoturvahaasteeseen.
Tämä tapaus herättää kysymyksiä johtamisesta ja mittareiden asettamisesta. Kun järjestelmälle annetaan yksi optimoitava mittari ja riittävästi harkintavaltaa, se saattaa keskittyä vain mittarin saavuttamiseen laajempien tavoitteiden tai arvojen kustannuksella. Sama ilmiö voi esiintyä myös ihmistyöntekijöiden keskuudessa.