Axians varoittaa syväväärennösten yleistyvästä uhasta

IT-palveluyritys Axians on nostanut esiin syväväärennösten, eli tekoälyn luomien väärennettyjen video- ja äänimateriaalien, kasvavan uhan. Yritys varoittaa, että rikolliset hyödyntävät yhä enemmän tätä teknologiaa sosiaaliseen manipulointiin, todennusjärjestelmien ohittamiseen ja disinformaation levittämiseen.

Syväväärennökset mahdollistavat kasvojen ja äänien muokkaamisen niin, että henkilöt esiintyvät vääristellyissä konteksteissa tai sanovat asioita, joita eivät todellisuudessa ole sanoneet. Axians kuvailee skenaariota, jossa työntekijä tekee kiireellisen rahansiirron esimieheltään kuulostavan syväväärennetyn puhelun perusteella, vain huomatakseen myöhemmin esimiehen tietämättömyyden tapahtuneesta.

Tämäntyyppisiä tekoälyyn perustuvia manipulaatioita käytetään monenlaisissa hyökkäyksissä. Ne voivat sisältää kohdennettuja tietojenkalasteluja yrityssalaisuuksien tai kirjautumistietojen varastamiseksi tai niin sanottuja "CEO-huijauksia" varojen väärinkäyttöön. Lisäksi syväväärennöksiä voidaan käyttää biometristen tunnistusjärjestelmien, kuten video- tai puhelin autentikoinnin, kiertämiseen.

Axians muistuttaa, että teknologia on kehittynyt nopeasti, ja vaikka joitakin väärennöksiä voi tunnistaa tarkalla tarkastelulla, ne tulevat jatkuvasti uskottavammiksi. Yritys suosittelee varovaisuutta ja antaa vinkkejä syväväärennösten tunnistamiseen, kuten epäluonnollisten kasvonpiirteiden, epäselvien reunojen kasvojen ympärillä, puuttuvien räpäytysten tai epäjohdonmukaisen kuvanlaadun etsimistä. Myös lähteiden ja kontekstin kriittinen arviointi on tärkeää.

Teknologia perustuu kehittyneisiin neuroverkkoihin ja syväoppimiseen, jotka analysoivat ja oppivat ihmisten kasvojen piirteitä ja puhetta suuresta data-aineistosta. "Faceswapping"-tekniikka korvaa kasvoja videoissa, ja "Face Reenactment" manipuloimaan kasvojen ilmeitä ja liikkeitä reaaliajassa. Vastaavasti ääniväärennöksissä käytetään "Text-to-Speech"- ja "Voice Conversion"-menetelmiä. Vaikka teknologia tarjoaa potentiaalia myös luovaan käyttöön, sen väärinkäyttö uhkaa lisääntyä.