Anthropic bäddar in vattenstämpel och C2PA-metadata i AI-genererat innehåll

AI-företaget Anthropic har börjat integrera vattenstämplar i text som genereras av dess Claude-modell, samt Coalition for Content Provenance and Authenticity (C2PA)-metadata i medieformat som bilder. Syftet är att öka spårbarheten och transparensen för AI-skapat innehåll.

Vattenstämpeln i text är utformad för att följa med innehållet även när det kopieras och klistras in, och förväntas bestå genom vissa redigeringar. Denna märkning implementeras på modellnivå, vilket säkerställer att den är närvarande oavsett vilken Claude-produkt som används.

För medieformat som .svg, .png eller .jpg kommer Anthropic att infoga metadata enligt C2PA-öppna standarden. Denna standard används inom industrin för att registrera information om innehållets ursprung. Närvaron av en signerad metadatatagg signalerar att en fil har bearbetats av Claude och gör det möjligt att upptäcka om filen har manipulerats.

Åtgärderna är ett svar på EU:s AI Act och dess krav på transparens för AI-genererat innehåll, särskilt artikel 50 som trädde i kraft globalt. För modeller som lanseras inom EU efter 2 augusti 2026 kommer maskinläsbar märkning att finnas tillgänglig vid lanseringen.

Anthropic planerar att snart släppa verktyg och teknisk dokumentation för att möjliggöra för användare och tredje part att upptäcka de inbäddade vattenstämplarna och metadatan. Företaget medger dock att tekniska utmaningar kvarstår, särskilt gällande skydd mot manipulering och kringgående av dessa märkningar.