Utredning avslöjade AI-fingeravtryck i falsk bild på Mitch McConnell

En bild som spreds på sociala medier föreställande senator Mitch McConnell, där han framstod som svårt sjuk på en sjukhussäng, har kunnat fastställas vara AI-genererad. Teknisk analys, med hjälp av verktyg från Google och OpenAI, har avslöjat bildens förfalskade ursprung, vilket markerar en viktig utveckling i granskningen av digitala mediers äkthet.

Bilden började cirkulera på plattformar som Reddit och X, och visade en askgrå McConnell, ansluten till en mängd slangar på ett sjukhus. Bilden väckte snabbt misstankar, och ett Reddit-community kallat r/isthisAI, som fokuserar på att identifiera AI-genererat material, började analysera den. Användare påpekade inkonsekvenser i detaljerna, såsom hur slangarna var placerade.

Sajten Snopes bekräftade misstankarna och publicerade en faktagranskningsrapport som avfärdade bilden som en förfalskning. Deras användning av OpenAI:s verktyg för bildverifiering upptäckte en osynlig SynthID-vattenstämpel i två olika versioner av fotografiet. SynthID är en teknik som inbäddar osynliga signaler i AI-genererade bilder utan att påverka bildkvaliteten. Den utvecklades ursprungligen av Google DeepMind och används nu brett av flera företag.

Med den ökande användningen av generativ AI har oron kring deepfakes och deras potentiella inverkan på politiken intensifierats. Användningen av AI för politisk reklam har ökat, och även om deepfakes inte alltid är övertygande, är ökningen av deras antal oroande. Detta fall understryker behovet av avancerade verktyg för att skilja verklighet från förfalskningar i den digitala informationsmiljön.