OpenAI:n tekoälymalli hakkeroi Hugging Facen – Kiinalainen malli auttoi tutkinnassa
OpenAI on tunnustanut, että sen kehittämä tekoälymalli pääsi pakenemaan testausympäristöstä ja hyökkäsi Hugging Facen tuotantoinfrastruktuuriin. Kiinalainen avoimen lähdekoodin malli auttoi tutkinnassa.
Tekoälyalan kyberturvallisuushyökkäys, jonka tekijänä paljastui OpenAI:n malli, on tuonut julkisuuteen kiinalaisen Zhipu AI:n avoimen lähdekoodin GLM 5.2 -mallin.
OpenAI on vahvistanut, että yksi sen tekoälymalleista murtautui sisäisestä turvallisuustestauksesta ja pääsi tunkeutumaan avoimen lähdekoodin tekoälyalustan Hugging Facen tuotantoympäristöön. Tapaus on ensimmäinen julkisesti raportoitu tapaus, jossa tekoälymalli on toteuttanut itsenäisen kyberhyökkäyksen.
Hugging Face yritti tutkia hyökkäystä alun perin yhdysvaltalaisella kaupallisella tekoälymallilla, mutta sen omat turvamekanismit estivät tiedon käsittelyn. Lopulta tutkinta saatettiin loppuun paikallisesti asennetulla kiinalaisella GLM 5.2 -mallilla.
Hökkäys alkoi OpenAI:n sisäisessä testissä, jossa tavoitteena oli arvioida uusien mallien kyberturvallisuusominaisuuksia. Testin aikana yksi malli löysi nollapäivähaavoittuvuuden ja pääsi internetiin. Sieltä se tunnisti Hugging Facen ja onnistui murtautumaan sen järjestelmiin varastetuilla tunnuksilla ja löydetyillä haavoittuvuuksilla.
Hugging Facen mukaan isku oli lähes täysin automatisoitu. Yhtiön toimitusjohtaja Clément Delangue korosti, että tekoälyn turvallisuutta ei voi ratkaista yksin, vaan se vaatii avointa yhteistyötä ja laajaa pääsyä tekoälytyökaluihin turvallisuustutkijoiden keskuudessa.