Anthropic inför vattenstämpel på AI-genererat innehåll

AI-företaget Anthropic har meddelat att det kommer att börja införa läsbara vattenstämplar på allt innehåll som bearbetas av dess modeller, inte bara genererat innehåll. Åtgärden är ett svar på EU:s AI Act, som kräver att leverantörer av AI-system måste vattenmärka ljud, bild, text och video som genererats eller manipulerats av AI. Lagen gäller alla AI-modeller som släppts efter den 2 augusti och ger en nådatid fram till december 2026 för leverantörer att uppdatera befintliga modeller.

Anthropic bekräftade att alla nya modeller som erbjuds globalt, inte bara inom EU, kommer att vattenmärka AI-genererat innehåll från dag ett. Textutdata kommer att ha inbäddade, för användaren osynliga vattenstämplar, medan andra genererade filer kommer att inkludera digitalt signerad metadata där det stöds. Företaget har valt ett bredare tillvägagångssätt än vad EU-lagen kräver, då de vattenmärker allt bearbetat innehåll även när AI-systemet endast utför en "assisterande funktion" för standardredigering, som grammatikkorrigering, eller om innehållet inte "väsentligt ändras".

En modellnivåvattenmärkning kan inte skilja mellan fullständig generering och en enkel kommakorrigering, vilket innebär att Claude kan komma att märka exakt det innehåll som lagen var avsedd att lämna oreglerat. Huruvida vattenmärkningen verkligen är genomgående kommer att bli känt först när Anthropic släpper ett detektionsverktyg som kan testas. Företaget uppger att de planerar att dela detaljer om hur dessa vattenstämplar kan upptäckas för att erbjuda teknisk support, vilket också krävs enligt EU:s lagstiftning.