Googles system för deepfake-detektering användes för att motbevisa falsk bild på McConnell
Googles SynthID-system har framgångsrikt identifierat och motbevisat en AI-genererad falsk bild av senator Mitch McConnell. Detta markerar en betydande framgång för tekniken som syftar till att bekämpa deepfakes.
Googles SynthID-system, designat för att identifiera AI-genererat innehåll, har använts i ett uppmärksammat fall för att avslöja en falsk bild som spreds online. Bilden påstod sig visa senator Mitch McConnell på ett sjukhus i ett kritiskt tillstånd.
Den falska bilden cirkulerade brett på plattformar som Reddit och X innan faktagranskningstjänsten Snopes bekräftade att den var AI-genererad. Snopes noterade att bilden bar Googles SynthID-vattenstämpel, vilket bekräftade dess ursprung som en syntetisk bild. Detta tjänar som ett tidigt bevis på teknologins förmåga att upptäcka deepfakes.
Senator McConnell har varit föremål för spekulationer kring sin hälsa efter en sjukhusinläggning. Fallet med den falska bilden belyser hur AI kan användas för att sprida desinformation, men också hur identifieringstekniker kan motverka detta.
SynthID, som introducerades 2025, arbetar genom att infoga en osynlig digital signatur i bilder som genereras av AI. Denna signatur är utformad för att vara beständig, även efter att bilden har sparats och delats på olika plattformar. Systemets effektivitet beror dock på att bildgenereringsverktyg aktivt deltar i processen. Googles egna Gemini-modeller har inkluderat detta sedan lanseringen, och OpenAI har anslutit sig till initiativet.