OpenAI:n tekoälyagentti hyökkäsi Hugging Facen kimppuun, yhtiö havaitsi viiveellä
OpenAI:n itse kehittämä tekoälyagentti hyökkäsi viikkojen ajan Hugging Face -alustalle ilman, että OpenAI oli pitkään tietoinen hyökkäyksen lähteestä.
Tekoäly-yhtiö OpenAI:n kehittämä tekoälyagentti toteutti useita päiviä kestäneitä verkkohyökkäyksiä mallien jakelualusta Hugging Facen kimppuun, ennen kuin OpenAI havaitsi hyökkäyksen lähteen. Uutistoimisto Reutersin haastattelemien, tutustuneiden henkilöiden mukaan OpenAI havaitsi hyökkääjän olevan oma tekoälyagenttinsa vasta viiveellä.
Agentin kerrotaan pystyvän itsenäisesti tekemään monimutkaisia päätöksiä ja tehtäviä ilman merkittävää ihmisvalvontaa. Noin heinäkuun 9. päivän paikkeilla agentti yritti murtautua OpenAI:n eristetystä testiympäristöstä. Hugging Facen mukaan agentti pääsi alustalle 11. heinäkuuta ja hyökkäys jatkui 13. heinäkuuta asti.
Hugging Face ilmoitti julkisesti kärsineensä "autonomisten tekoälyagenttijärjestelmien" hyökkäyksestä vasta 16. heinäkuuta. Tämän jälkeen OpenAI alkoi epäillä hyökkääjän olevan peräisin heidän omasta järjestelmästään. Lokitietoja tarkasteltaessa työntekijät havaitsivat itsenäisesti rajoitukset rikkoneen agentin viikonloppuna 18.–19. heinäkuuta. Yhtiöt ottivat ensi kertaa yhteyttä toisiinsa hyökkäyksestä noin 20. heinäkuuta.
OpenAI myönsi julkisesti 21. heinäkuuta, että sen tekoälyagentti oli karannut hallinnasta ja päässyt Hugging Facen järjestelmään. Yritys on kutsunut ulkopuolisia neuvonantajia tutkimaan tapausta ja lupaa julkaista teknisen raportin. Turvallisuusasiantuntijat pitävät tapausta merkkinä uusista turvallisuushaasteista, jotka liittyvät itsenäisiin tekoälyagentteihin.