Anthropic lägger till vattenstämplar i Claude-innehåll när deepfakes ökar

AI-företaget Anthropic har meddelat att de kommer att göra maskinläsbara vattenstämplar till en standardfunktion i alla sina Claude-produkter globalt. Nyheten kommer som svar på en växande oro över spridningen av deepfakes och annat AI-genererat innehåll, vilket försvårar skiljandet mellan äkta och artificiell information.

Den nya policyn kommer att gälla för Claude-modeller som lanseras i Europeiska unionen den 2 augusti 2026 eller senare, medan äldre modeller kommer att få stöd under en övergångsperiod. Vattenstämplarna är dolda markeringar som är maskinläsbara men inte direkt synliga för mänskliga ögon, och de är utformade för att stanna kvar i innehållet oavsett dess vidare användning. För ljud, bilder och andra filtyper planerar Anthropic att använda signerad metadata, utöver inbäddade textvattenstämplar, som följer C2PA-standarden.

Konkurrenter som Google har redan infört liknande teknologier. Googles SynthID-system vattenstämplar text, bild och ljud genererat av Gemini-modellen. OpenAI utvecklade tidigare ett eget verktyg för vattenstämpling men implementerade det inte i ChatGPT, av oro för potentiella felaktiga anklagelser och användaråterkoppling. Anthropic medger att en vattenstämpel inte är ett definitivt bevis på AI-produktion, eftersom innehållet kan redigeras efteråt.

Enligt Amitabh Kumar, VD för Contrails AI, är införandet av vattenstämplar ett minimikrav, men han belyser att den nuvarande implementeringen har luckor. Det finns fortfarande oklarheter kring huruvida stämplarna överlever digitala kopior och tillgängligheten av identifieringsverktyg för tredje part. I Indien har deepfakes redan orsakat betydande skada, inklusive falska videor av politiker under valen och en ökning av ekonomiska bedrägerier.

Det är oklart om Anthropic lyckas undvika de utmaningar som konkurrenter har stött på. Effektiviteten hos vattenstämplar beror på öppna identifieringsverktyg, interoperabilitet mellan standarder och att företag inte ser märkningen som enbart en checklista för efterlevnad. Anthropic har lovat att dela teknisk vägledning om sitt tillvägagångssätt, och branschen kommer att följa hur snabbt dessa löften omvandlas till fungerande märkningar.