Fraunhofer kehitti työkalun deepfake-kuvien luotettavaan tunnistukseen
Tutkijat ovat kehittäneet uuden hybridimenetelmän, joka tunnistaa tekoälyn luomat kuvat ja selittää tunnistuksen perusteet. Työkalu parantaa luotettavuutta merkittävästi.
Fraunhoferin tutkijat ovat kehittäneet uuden työkalun, RealorRenderin, joka tunnistaa tekoälyn luomat deepfake-kuvat ja selittää tunnistuksen perusteet. Tämä hybridimenetelmä yhdistää perinteisen syväoppimisen ja generatiivisten mallien rekonstruktioanalyysin parantaakseen tunnistuksen tarkkuutta merkittävästi.
Menetelmä toimii rekonstruoimalla kuvan tekoälyllä ja analysoimalla sitten rekonstruktion virhettä. Mitä paremmin kuva voidaan rekonstruoida, sitä todennäköisemmin se on tekoälyn luoma. Tunnistuksen onnistumisaste vaihtelee 85–91 prosenttia, ja selittävän tekoälyn (XAI) avulla voidaan osoittaa, mitkä kuvan osat ja rakenteet ovat vaikuttaneet tunnistukseen.
Projekti pyrkii vastaamaan lisääntyvän disinformaation riskiin, jota tekoälyn luomat realistiset kuvat aiheuttavat. Yhdistämällä tunnistuksen ja selityskyvyn tutkijat pyrkivät luomaan läpinäkyvämpiä ja luotettavampia järjestelmiä, jotka voivat auttaa torjumaan väärennetyn sisällön leviämistä.
Kehitettyä menetelmää testattiin laajalla kuvatietoaineistolla, ja sen osoitettiin ylittävän nykyiset menetelmät. Tuloksia hyödynnetään nyt demonstrointityökalussa, joka auttaa Saksan liittovaltion tietoturvavirastoa (BSI) tunnistamaan deepfake-kuvia. Työkalu tarjoaa käyttäjälle tunnistustuloksen ja yksityiskohtaisen selityksen sen perusteista.