Googlen tekoälykuvien tunnistusjärjestelmä kumosi McConnell-kuvahuijauksen

Googlen kehittämä SynthID-järjestelmä, joka on suunniteltu tunnistamaan tekoälyn luomia kuvia, on ensi kertaa todistanut tehokkuutensa käytännössä. Järjestelmää käytettiin paljastamaan laajalle levinnyt valheellinen kuva Yhdysvaltain senaattori Mitch McConnellista, joka näytti olevan sairaalassa vakavassa tilassa.

Kuva levisi nopeasti sosiaalisessa mediassa, mukaan lukien Redditissä ja X-palvelussa, herättäen huolta senaattorin terveydestä. Faktantarkkailuun erikoistunut Snopes vahvisti kuvan olevan tekaistu. Teknisen analyysin mukaan kuva sisälsi Googlen SynthID-vesileiman, joka on tarkoitettu osoittamaan kuvan tekoälyperäisyyden. Tämä vahvistaa järjestelmän toimivuuden väärennösten paljastamisessa.

Senaattori McConnellin terveydentila on ollut viime aikoina spekuloinnin kohteena hänen sairaalahoitonsa vuoksi. Vaikka huhut ovat kiertäneet, tämä tapaus osoitti, että kyseessä oli tarkoituksellinen disinformaatiokampanja, jonka kohde oli tekoälyllä luotu kuva.

Google esitteli SynthID-järjestelmän ensimmäisen kerran vuonna 2025. Vesileima on näkymätön ihmiselle, mutta se on upotettu kuvaan siten, että se säilyy, vaikka kuvaa jaettaisiin eri alustoilla. Järjestelmän laajempaan käyttöön liittyy kuitenkin rajoituksia sen suhteen, mitkä tekoälymallit tukevat vesileiman lisäämistä. Gemini-mallit ovat tukeneet sitä julkaisusta lähtien, ja OpenAI liittyi mukaan myöhemmin osana pyrkimyksiä torjua haitallista kuvien generointia.