Fraunhofer utvecklar verktyg för pålitlig identifiering av deepfake-bilder
Forskare har tagit fram en ny hybridmetod som inte bara identifierar AI-genererade bilder utan också förklarar grunden för identifieringen. Verktyget ökar tillförlitligheten avsevärt.
Forskare vid Fraunhofer har utvecklat ett nytt verktyg, RealorRender, som identifierar AI-genererade deepfake-bilder och förklarar orsakerna till identifieringen. Denna hybridmetod kombinerar traditionell djupinlärning med rekonstruktionsanalys från generativa modeller för att avsevärt förbättra identifieringens noggrannhet.
Metoden fungerar genom att rekonstruera en bild med hjälp av AI och sedan analysera rekonstruktionsfelet. Ju bättre en bild kan rekonstrueras, desto mer sannolikt är det att den är AI-genererad. Identifieringsframgången ligger mellan 85 och 91 procent, och med hjälp av förklarande AI (XAI) kan det visas vilka delar och strukturer i bilden som har påverkat identifieringen.
Projektet syftar till att bemöta risken för ökad desinformation som realistiska AI-genererade bilder medför. Genom att kombinera identifiering och förklaringsförmåga strävar forskarna efter att skapa mer transparenta och tillförlitliga system som kan bidra till att motverka spridningen av förfalskat innehåll.
Den utvecklade metoden testades på en stor bilddatamängd och visade sig överträffa nuvarande metoder. Resultaten integreras nu i ett demonstrationsverktyg som hjälper det tyska federala informationssäkerhetskontoret (BSI) att identifiera deepfake-bilder. Verktyget ger användaren ett identifieringsresultat och en detaljerad förklaring av dess grunder.