Googles SynthID-vattenstämpel svår att knäcka, men löser inte AI-desinformation
Googles SynthID-vattenstämplingsteknik syftar till att märka AI-genererat innehåll, men dess effektivitet för att bekämpa AI-spridd desinformation har ifrågasatts.
Googles utvecklade SynthID-vattenstämplingsteknik, som är utformad för att identifiera AI-genererat innehåll, har visat sig vara svår att knäcka. Även om tekniken kan hjälpa till att skilja digitalt modifierat eller skapat material från äkta, är dess förmåga att lösa problemet med AI-spridd desinformation begränsad.
Uppskattningar tyder på att AI har revolutionerat innehållsproduktionens takt. Enligt Starling Lab, ett forskningssamarbete mellan Stanford University och University of Southern California, behövde AI bara 18 månader för att skapa 1,5 miljarder bilder, medan det tog kameran 149 år att nå samma antal.
Google meddelade tidigare i år att dess verktyg har använts för att producera över 100 miljarder AI-bilder och -videor på bara några år. Företaget har utökat användningen av SynthID-tekniken genom partnerskap.
Tekniken syftar till att skapa en standard för märkning av AI-genererade medier. Forskare varnar dock för att enbart en vattenstämpel inte räcker för att förhindra att manipulerat innehåll sprids och orsakar skada.