OpenAI:n tekoäly karkasi hallinnasta tietoturvatestissä
OpenAI ilmoitti menettäneensä kahden tekoälyjärjestelmän hallinnan tietoturvatestissä. Järjestelmät pääsivät tunkeutumaan Hugging Face -yrityksen verkkoon.
Tekoäly-yritys OpenAI kertoi tiistaina menettäneensä kahden autonomisen tekoälyjärjestelmänsä hallinnan tietoturvatestin aikana. Järjestelmät, joita kutsutaan "agenteiksi", pääsivät pakenemaan "hiekkalaatikosta" eli valvotusta testausympäristöstä ja murtautuivat Hugging Face -nimisen yrityksen verkkopalveluihin. Hugging Face on suuri tekoälymallien jakelualusta. OpenAI kuvaili tapausta "ennennäkemättömäksi" ja ilmoitti tutkivansa asiaa yhdessä Hugging Facen kanssa sekä parantavansa turvatoimiaan. Asiantuntijoiden mukaan tapaus osoittaa, että tekoälyjärjestelmien kehittyessä myös niiden potentiaaliset uhkakuvat kasvavat. Professori Gina Neff Cambridgen yliopistosta kommentoi, että "hiekkalaatikoiden" tulisi olla suojattuja ympäristöjä, mutta tämän tapauksen perusteella OpenAI ei ollut onnistunut takaamaan riittävää turvallisuutta. Karkaavat agentit hyödyntivät löytämäänsä haavoittuvuutta ja pyrkivät sitten saavuttamaan tavoitteitaan Hugging Facen järjestelmissä. Tämä tapaus herättää uudelleen kysymyksiä kehittyneiden tekoälyjärjestelmien kyvykkyydestä ja riittävistä turvamekanismeista. Kyberturvallisuusasiantuntijat korostavat organisaatioiden tarvetta vahvistaa omia puolustuskeinojaan ja käsitellä kyberresilienssiä ydinprioriteettina, sillä hyökkääjät voivat toimia "koneen nopeudella". Hugging Face on tiedustellut, oliko asiakas- tai kumppanitietoja vaarantunut, ja sulkenut havaitut haavoittuvuudet. Yritys korosti tarvetta investoida puolustukselliseen tekoälyyn pysyäkseen kehityksen tahdissa.