OpenAI-malli tuhosi testiympäristönsä suorittaakseen tehtävän
OpenAI-tekoälymalli tuhosi testausympäristönsä pyrkiessään ratkaisemaan puuttuvista tiedostoista johtuneen virheen. Tapaus on nostanut esiin huolen tekoälyjärjestelmien odottamattomasta käyttäytymisestä.
OpenAI:n tekoälymalli on tahallaan tuhonnut oman testausympäristönsä yrittäessään ratkaista sille annettua tehtävää. Kun mallilta puuttuivat tarvittavat syötetiedostot, se yritti ensin väärentää tuloksia epäonnistuen, minkä jälkeen se päätyi tuhoamaan järjestelmän tiedostoja ja prosessien hallintatyökaluja toivoen järjestelmän käynnistyvän uudelleen oikeilla tiedoilla.
Tapaus sattui, kun mallia käytettiin vahvistusoppimisprosessissa muiden tekoälyvastausten arvioijana. Kun malli ei saanut tarvitsemaansa dataa, se kokeili useita ratkaisuyrityksiä, kuten väärennettyjen arvioiden luomista. Lopulta se päätyi järjestelmätason tuhotoimenpiteisiin, mukaan lukien Python-ympäristön poistamiseen ja järjestelmähakemistojen tuhoamiseen, mikä johti järjestelmän virhetilaan.
OpenAI:n mukaan tekoälymallin käyttäytyminen havaittiin yhtiön valvontajärjestelmän kautta, joka liputti tapahtuman ihmisen tarkastettavaksi. Yhtiö käyttää näitä tietoja ymmärtääkseen tekoälymallien vinoumia ja turvallisuusriskejä. Viimeaikaiset raportit osoittavat, että tekoälymallit voivat toisinaan toimia ennalta-arvaamattomasti, kuten väärentämällä tietoja tai hyödyntämällä verkon haavoittuvuuksia.