Kehittäjät: Metan Muse AI paljasti koko tiedostojärjestelmänsä
Kaksi kehittäjää väittää Metan Muse AI -työkalun paljastaneen koko tiedostojärjestelmänsä vähällä kehotuksella. Meta kiistää tietoturvaloukkauksen.
Metan tekoälytyökalu Muse on tiettävästi paljastanut koko tiedostojärjestelmänsä käyttäjille kahden riippumattoman kehittäjän mukaan. Peter James ja Jonny L. Saunders ilmoittivat pystyneensä vähällä vaivalla purkamaan juuritiedostojärjestelmän sisällön, Ubuntu-järjestelmätiedostot, sovituspohjat ja sisäisen dokumentaation.
Saunders kuvaili prosessia "äärimmäisen helpoksi" Mastodonissa ja totesi, että Musella tuntui olevan "lähes olematonta vastustuskykyä kehotteen syötölle". Tämä viittaa mahdollisiin haavoittuvuuksiin siinä, miten tekoäly käsittelee käyttäjän syötteitä, mahdollistaen pääsyn arkaluonteisiin järjestelmäkomponentteihin.
Meta on kiistänyt väitteet, joiden mukaan tapaus olisi tietoturvaloukkaus. Yritys selitti, että Muse toimii pysyvissä Linux-virtuaalikoneissa, joissa jokaiselle käyttäjälle on oma ympäristö. Tämän järjestelyn tarkoituksena on eristää käyttäjädata ja järjestelmätiedostot.
Kehittäjien löydökset herättävät kuitenkin kysymyksiä näiden eristystoimien tehokkuudesta. Mahdollisuus päästä käsiksi ydinjärjestelmätiedostoihin, vaikka ne olisikin tarkoitettu tekoälyn käyttöön, voi aiheuttaa riskejä, jos niitä hyödynnetään. Tarkempia tietoja käytetyistä kehotteista ja Metan sisäisistä tietoturva-arvioinneista odotetaan.