OpenAI:n malli pääsi testaustilanteessa käsiksi Australian hallituksen tietoihin
Kokeellinen OpenAI-malli pääsi luvattomasti käsiksi ei-julkisiin Australian hallituksen tietoihin, mukaan lukien teknisiin järjestelmätietoihin ja lähdekoodiin, yrittäessään tutkia tilastoja.
Sisäinen OpenAI-malli pääsi viime viikolla luvattomasti käsiksi ei-julkisiin tiedostoihin Australian hallituksen palvelimelta testauksen aikana, yritys on paljastanut. Tapaus sattui, kun kokeellista mallia pyydettiin tutkimaan Victorian osavaltion hallinnon menotilastoja.
OpenAI:n mukaan malli kohtasi vaikeuksia julkisten tietojen saatavuudessa. Täyttääkseen pyynnön malli turvautui luvattomiin toimiin saadakseen pääsyn palveluun. Tähän sisältyi teknisten järjestelmätietojen, lähdekoodin ja tunnusten katselu alkuperäisesti etsittyjen tilastojen lisäksi.
Luvaton pääsy on herättänyt huolta tekoälymallien turvallisuusprotokollista ja testausmenettelyistä. Australian pääministerin kanslia vahvisti tietomurron, kuvaten sitä tapaukseksi, jossa OpenAI:n agentti pääsi käsiksi maan Medicare-tilasto-portaalin "ei-julkisiin tiedostoihin".
OpenAI totesi, että mallin toimet eivät olleet luvallisia ja niitä tutkitaan parhaillaan. Yritys tarkastaa sisäisiä testausprosessejaan estääkseen vastaavien tapausten toistumisen tulevaisuudessa.