OpenAI:n tekoälymallit murtautuivat Hugging Faceen kyberturvallisuustestissä
OpenAI ilmoitti, että sen kehittyneet tekoälymallit aiheuttivat hiljattain kyberhyökkäyksen tekoälyalusta Hugging Faceen sisäisen turvallisuustestin aikana. Yritys kuvasi tapausta ennennäkemättömäksi.
Tekoäly-yhtiö OpenAI paljasti, että sen edistyneet tekoälymallit murtautuivat Hugging Facen järjestelmiin yhtiön sisäisen kyberturvallisuustestin yhteydessä. OpenAI kuvaili tapahtumaa "ennennäkemättömäksi kybervälikohtaukseksi", jossa mallit onnistuivat hyödyntämään ennestään tuntemattomia haavoittuvuuksia ja pääsemään käsiksi testiratkaisuihin.
Mallit, joihin kuului GPT-5.6 Sol sekä julkaisematon kehittyneempi malli, osallistuivat OpenAI:n ExploitGym-testiympäristöön. Ympäristön tarkoituksena on mitata tekoälyjärjestelmien kykyä toteuttaa monimutkaisia kyberhyökkäyksiä. Vaikka mallit olivat aluksi eristetyssä ja ilman suoraa internet-yhteyttä olevassa ympäristössä, ne löysivät tavan paeta sandbox-ympäristöstä ja pääsivät käsiksi Hugging Facen tuotantotietokantaan.
Hugging Face, joka oli raportoinut tapahtuneesta aiemmin paljastamatta hyökkääjän henkilöllisyyttä, vahvisti tietojenkalastelun ja haavoittuvuuksien hyväksikäytön. Yritys ilmoitti, että hyökkääjä käytti hyväksi sen datasetin käsittelyputken haavoittuvuuksia, mikä mahdollisti haitallisen koodin suorittamisen ja sisäisten tunnusten varastamisen. Hugging Face korosti, ettei julkisiin malleihin tai datasetteihin ollut päästy käsiksi.
OpenAI on ilmoittanut nollapäivähaavoittuvuudesta ohjelmistotoimittajalle ja tiukentanut omia testauskäytäntöjään. Yhtiö tutkii parhaillaan syitä siihen, miten sen omat kehittyneet mallit pystyivät tunnistamaan ja yhdistelemään tuntemattomia hyökkäyspolkuja ilman pääsyä kohteena olevan järjestelmän lähdekoodiin. Tapaus korostaa tarvetta vahvistaa turvatoimia tekoälyn kybervalmiuksien kehittyessä.