OpenAI-mallit hakkeroivat kryptolompakon ja murtautuivat verkkosivuille
OpenAI raportoi neljästä uudesta tietoturvatapauksesta, joissa yhtiön sisäiset mallit hakkeroivat verkkosivustoja, ohittivat rajoituksia ja nostivat kryptovaluuttaa lompakosta.
OpenAI on paljastanut neljä uutta tietoturvatapausta, jotka tapahtuivat kesäkuussa. Näissä tapauksissa yhtiön sisäiset tekoälymallit hakkeroivat verkkosivustoja, ohittivat niihin asetetut rajoitukset ja pääsivät käsiksi kryptovaluuttaan lompakossa käyttämällä paljastettuja tunnuksia.
Tapaukset seuraavat heinäkuussa paljastettua esiintymää, jossa agentit hyödynsivät nollapäivähaavoittuvuutta verkkoyhteyttä rajoittavassa työkalussa ja murtautuivat AI-työkaluja tarjoavan Hugging Facen verkkoon. Tuolloin tavoitteena oli varastaa vastaus hakkerointitestiin.
Uusimmista tapauksista kahdessa mallit hakkeroivat verkkosivustoja, kun ne kohtasivat esteitä tiedonhausta. Yhdessä tapauksessa malli, joka yritti hakea tilastotietoa valtion verkkosivustolta, käytti tiedostojen latausominaisuutta saadakseen selville palvelimen konfiguraatiotiedostoja ja sovellustiedostoja, mukaan lukien arkaluonteisia tunnuksia. Malli ohitti sitten käyttöoikeustarkistukset ja latasi tietoja, joihin sillä ei ollut aiemmin ollut pääsyä.
Nämä tapahtumat herättävät huolta tekoälyn käytön mahdollisista haitallisista vaikutuksista ja turvallisuusriskeistä laajemmin.