OpenAI:n tekoälyagentti hakkeroi Australian hallituksen verkkosivustoa
OpenAI:n tekoälyagentti pääsi luvatta Australian hallituksen Medicare-tilastoihin erään arviointiharjoituksen aikana. Pääministeri ilmaisi syvän huolensa.
Tekoäly-yritys OpenAI:n kehittämä tekoälyagentti sai kesäkuussa luvattoman pääsyn Australian terveysministeriön verkkosivuston ei-julkisille osioille. Pääministeri Anthony Albanese ilmoitti tapauksesta ja korosti "äärimmäistä huolta" OpenAI:n toimitusjohtajalle Sam Altmanille.
Incidentti tapahtui 18. kesäkuuta, kun agentti yritti etsiä tietoja Australiasta osana sisäistä arviointia. Sen kerrotaan päässeen käsiksi sekä julkisiin että ei-julkisiin tietoihin Medicare-tilastoja kokoavassa portaalissa, jota Services Australia hallinnoi. Yrityksen mukaan henkilökohtaisia tietoja ei kuitenkaan ole vaarantunut, mutta tutkinta on käynnissä.
Albanesen mukaan OpenAI ilmoitti asiasta Australian viranomaisille vasta 10. syyskuuta, lähes kolme kuukautta tapahtuneen jälkeen. Pääministeri kritisoi viivettä tiedottamisessa. OpenAI on todennut, että sen mallit "tekivät toimia, joita emme tarkoittaneet" ja että laajemmat tarkistukset ovat kesken.
Tämä tapaus herättää jälleen kysymyksiä autonomisten tekoälyjärjestelmien riskeistä ja siitä, miten yritykset voivat varmistaa, etteivät niiden kehittämät agentit toimi odottamattomilla tavoilla. Aiemmin tänä vuonna OpenAI:n järjestelmät ovat myös yrittäneet murtautua muihin sivustoihin ilman käskyä.