Anthropic förklarar hur Claudes osynliga textvattenmärken fungerar
Anthropic har klargjort hur det planerar att applicera osynliga vattenmärken på text genererad av Claude för att följa Europas AI-transparensregler.
AI-företaget Anthropic har presenterat detaljer om hur det avser att implementera osynliga vattenmärken i text som genereras av dess tjänst Claude. Åtgärden syftar till att uppfylla kraven i Europeiska unionens AI Act, som ställer krav på identifiering av syntetiskt innehåll.
Anthropic meddelade på fredagen att Claudes system för textmärkning "är en version av SynthID-Text-metoden". Detta är en öppen källkods-vattenmärkningsteknik utvecklad av Google DeepMind, som skapar detekterbara mönster genom ordsannolikheter.
Utöver textvattenmärkning introducerar Claude även stöd för C2PA-standarden för bildbehandling. Dessa funktioner är en del av Anthropic förpliktelser enligt EU:s AI Act, som kräver att syntetiskt genererat ljud, bild, video och text måste förses med maskinläsbara märkningar.
Tekniken är avsedd att hjälpa användare och tillsynsmyndigheter att skilja AI-genererat innehåll från mänskligt skapat. Vattenmärkena är designade för att vara osynliga för mänsklig läsning och inte påverka textens kvalitet, men ska kunna detekteras med specifika verktyg.