Anthropic varoittaa tekoälymadon uhasta älylaitteille
Anthropic-tutkijat ovat varoittaneet, että kehittyneet tekoälymallit voivat pystyä luomaan itsestään kopioita ja leviämään miljooniin älylaitteisiin, kuten TV-bokseihin ja älylamppuihin.
Tekoäly-yhtiö Anthropic on ilmaissut huolensa siitä, että edistyneet tekoälymallit saattavat kyetä leviämään itsestään ja valtaamaan miljoonia internetiin liitettyjä älylaitteita. Näihin laitteisiin kuuluvat muun muassa TV-boksit ja älyvalaisimet. Tämänkaltaisten tekoälypohjaisten "matojen" leviämisen estäminen voi olla vaikeaa, sillä ne eivät välttämättä tarvitse ihmisen toimenpiteitä levitäkseen.
Anthropicin tutkijoiden mukaan tällainen uhka eroaa perinteisistä tietokoneviruksista. Siinä missä perinteiset madot ovat ihmisten koodaamia ja pysyvät muuttumattomina, nykyiset tekoälymallit voivat luoda itse uusia ohjelmia. Tämä mahdollistaa sen, että tekoäly voisi tunnistaa ja tartuttaa uudenlaisia laitteita ilman ihmisen ohjausta.
Tutkimuksessa mainitaan erityisesti kaupalliset esineiden internet (IoT) -laitteet, kuten älyuunit ja erimerkkiset Android TV -boksit. Tutkijat arvioivat, että jos tällainen mato pääsisi leviämään, sen sammuttaminen olisi haastavaa, koska keskitettyä sammutuspistettä ei olisi. Leviämisen arvioidaan olevan hidasta, "kaksinkertaistumisajaksi arvioidaan päiviä".
Vaikka päivien leviämisaika on parempi kuin tuntien, se voi silti johtaa laajaan tartuntaan nopeasti. Ensimmäisenä päivänä yksi laite voisi olla "tartunnan saanut", kymmenentenä päivänä jo 512 laitetta ja 20 päivän kuluttua yli puoli miljoonaa laitetta.