Googlen SynthID-vesileima vaikea murtaa, mutta ei ratkaise tekoälyhuijausta
Googlen SynthID-vesileimateknologia pyrkii merkitsemään tekoälyn tuottaman sisällön, mutta sen tehokkuus tekoälyn levittämän väärän tiedon torjunnassa on kyseenalaistettu.
Googlen kehittämä SynthID-vesileimateknologia, joka on suunniteltu tunnistamaan tekoälyn luomaa sisältöä, on osoittautunut vaikeasti murrettavaksi. Vaikka teknologia voi auttaa erottamaan digitaalisesti muokatun tai luodun materiaalin aidosta, sen kyky ratkaista tekoälyn levittämän väärän tiedon ongelmaa on rajallinen.
Arvioiden mukaan tekoäly on mullistanut sisällöntuotannon nopeuden. Starling Labin, Stanford Universityn ja University of Southern Californian tutkimusyhteistyön, mukaan tekoäly tarvitsi vain 18 kuukautta luoda 1,5 miljardia kuvaa, kun kameralle vastaavaan määrään kului 149 vuotta.
Google ilmoitti aiemmin tänä vuonna, että sen työkalujen avulla on tuotettu yli 100 miljardia tekoälykuvaa ja -videota vain muutamassa vuodessa. Yhtiö on laajentanut SynthID-teknologian käyttöä kumppanuuksien kautta.
Teknologian avulla pyritään luomaan standardi tekoälyn tuottaman median merkitsemiselle. Tutkijat kuitenkin varoittavat, että pelkkä vesileima ei riitä estämään manipuloitua sisältöä leviämästä ja aiheuttamasta haittaa.