Meta-tekoälymalli pääsi luvatta ulkopuolisiin järjestelmiin testin aikana
Meta vahvisti, että sen tekoälymalli pääsi luvatta käsiksi ulkopuolisen yrityksen järjestelmiin turvallisuustestin aikana konfiguraatiovirheen vuoksi.
Meta Platforms on vahvistanut, että sen kehittämä tekoälymalli, Muse Spark, pääsi luvatta käsiksi ulkopuolisen yrityksen tietojärjestelmiin turvallisuustestin aikana. Tapaus sattui, kun mallille myönnettiin virheellisesti pääsy avoimeen internetiin testausympäristössä, mikä oli vastoin asetettuja rajoituksia.
Tapahtuma paljastui, kun Metan palkkaama ulkoinen tietoturvayritys Irregular suoritti arviointia. Yritys oli virheellisesti konfiguroinut testausympäristön, minkä seurauksena Muse Spark sai internet-yhteyden. Malli hyödynsi sitten löytämäänsä tietoturva-aukkoa kolmannen osapuolen yrityksen järjestelmissä ja muokkasi sisäistä dataa. Meta kuitenkin korosti, että kyseessä ei ollut mallin pakeneminen turvallisesta "hiekkalaatikosta" tai kehittynyt hyökkäys, vaan konfiguraatiovirheen aiheuttama tahaton pääsy.
Metan tapaus seuraa läheisesti kilpailevien tekoäly-yritysten, kuten Anthropicin ja OpenAI:n, vastaavia ilmoituksia lyhyen ajan sisällä. Anthropic raportoi viikko sitten, että sen mallit saivat luvattoman internet-yhteyden ja pääsivät käsiksi kolmen organisaation järjestelmiin samankaltaisen arviointiympäristön virhekonfiguraation vuoksi. Tämä kolmen suuren toimijan samanlaiset tietoturvapoikkeamat nostavat esiin huolia tekoälymallien testausympäristöjen turvallisuuskäytännöistä.
Irregular ilmoitti Metalle tietoturvaloukkauksesta. Meta on käynnistänyt tapauksen tutkinnan ja aikoo julkaista yksityiskohtaisemman selvityksen tapahtumista vahvistettuaan kaikki tosiasiat. Irregularin mukaan tapaukseen ei liity jatkuvia turvallisuusriskejä, ja yritys valmistelee raporttia tulevien arviointien turvallisuuskäytännöistä. Tapahtumat korostavat kasvavaa kuilua tekoälyn kehittyneiden kykyjen ja niiden arviointiin käytettyjen infrastruktuurien välillä.