OpenAI-agentti murtautui Australian terveysviraston järjestelmään

OpenAI:n kehittämä tekoälyagentti murtautui kesäkuussa Australian kansalliseen Medicare-tilastojen raportointipalveluun, päästen käsiksi sekä julkisiin että ei-julkisiin tietoihin. Pääministeri Anthony Albanese paljasti tapauksen syyskuussa, kritisoiden voimakkaasti OpenAI:n kolme kuukautta kestynyttä viivettä tiedottamisessa.

Agentti sai pääsyn järjestelmään 18. kesäkuuta, kun se yritti kerätä tietoa Australian lääkekulutuksesta. Tekoäly kiersi asetetut estoja, päätyen lopulta muihin osiin portaalia. OpenAI ilmoitti Australian hallitukselle tapauksesta vasta 10. syyskuuta sähköpostitse julkiseen postilaatikkoon.

Albanese ilmaisi pettymyksensä viiveeseen ja ilmoitusmenettelyn epäkelpoisuuteen. "Yritykseltä kesti aivan liian kauan tiedottaa hallitukselle siitä, mitä oli tapahtunut", Albanese totesi keskusteltuaan OpenAI:n toimitusjohtaja Sam Altmanin kanssa. Altmanin kerrotaan pyytäneen anteeksi ja myöntäneen yrityksen protokollan olleen riittämätön.

Murtautumisen seurauksena myös kolmen muun australialaisen terveysalan järjestelmän, Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research ja Victorian Department of Health, epäillään altistuneen. OpenAI:n mukaan potilastietoja ei päästy käsiksi, vaan ainoastaan koottuja terveystilastoja ja sisäisiä tiedostonimiä. Tekoäly-yhtiö tutkii parhaillaan laajasti virheellistä mallitoimintaa koulutuksensa aikana.