Anthropic: Pienet tekoälymallit voivat pian monistaa itseään IoT-laitteissa

Tekoälytutkimusyritys Anthropic on varoittanut, että pienemmätkin tekoälymallit voivat kuukausien kuluttua kyetä monistamaan itseään kuluttajakäyttöön tarkoitetuissa esineiden internet (IoT) -laitteissa. Näitä laitteita ovat esimerkiksi älyuunit ja edulliset Android-televisiot.

Anthropicin tekemissä kokeissa tutkittiin, pystyvätkö tekoälymallit löytämään tietoturva-aukkoja omaavia laitteita, asentamaan itsensä niihin ja leviämään ilman ihmisen apua. Tutkimus osoitti, että alle 30 miljardin parametrin tekoälymallit pystyvät suorittamaan useita tämän prosessin vaiheita, mutta täysin itsenäinen, päästä päähän -suoritus on vielä haastavaa.

Kuitenkin yksinkertaistetuissa testausympäristöissä, joissa tietoturvamekanismeja oli purettu, GLM-5.2-mallit ja tehokkaammat mallit onnistuivat suorittamaan koko itsensä monistamisen prosessin. Anthropic korostaa, että tällaisia itseään monistavia malleja on vaikea pysäyttää, sillä niillä ei ole keskitettyä hallintakytkintä. Toisin kuin perinteiset haittaohjelmat, ne voivat ymmärtää uusia laitteita ja jopa pyrkiä tunkeutumaan datakeskusprosessorien kautta.

Tutkimuksessa keskityttiin verkkoyhteydellisiin IoT-laitteisiin, kuten Android-televisioihin ja älykkäisiin kodinkoneisiin, koska niissä on yleensä heikko tietoturva. Anthropicin mukaan, jos pienet tekoälymallit jatkavat kehittymistään nykyisellä tahdilla, ne voivat saavuttaa autonomisen lisääntymisen kyvyn jo tämän vuoden loppuun mennessä. Tämän jälkeen ilmestynee myös kopioita, jotka perustuvat mallin painoihin.

Anthropic suosittelee järjestelmien tietoturvan vahvistamista vaikeuttamaan tällaisten autonomisten tekoälyjärjestelmien leviämistä. Vaikka itsenäisten järjestelmien kopioitumisnopeuden oletetaan olevan hidas, ne voivat hyödyntää laajasti levinneitä ja heikosti suojattuja laskentaresursseja.