OpenAI inför vattenmärkning för AI-genererad text i EU
OpenAI börjar använda en statistisk osynlig vattenmärkning för text som genereras av dess modeller i EU. Syftet är att identifiera AI-genererat innehåll, men tekniken har begränsningar i hur väl den fungerar.
AI-företaget OpenAI meddelar att de kommer att börja använda en osynlig statistisk vattenmärkning för att identifiera text som genererats av deras modeller inom EU. Tekniken, som kallas textGrain, syftar till att hjälpa till att urskilja innehåll skapat av system som ChatGPT och Codex. Införandet av vattenmärkningen kommer att ske gradvis under de kommande veckorna.
Vattenmärkningen fungerar genom att modifiera de statistiska mönster i ordval som används av AI-modellerna, utan att lägga till synliga tecken eller dolda tecken i texten. Ett separat detektorsystem kan sedan analysera texten för att avgöra om dessa mönster finns närvarande. Inledningsvis kommer endast godkända forskare och expertorganisationer att få tillgång till detektorn. OpenAI betonar att systemet inte identifierar enskilda användare eller avslöjar deras inmatningar eller konversationer.
OpenAI medger att vattenmärkningstekniken har tydliga begränsningar. Tester visar att detektorn är mest tillförlitlig för längre textstycken, medan dess prestanda minskar betydligt för kortare texter, text som är strikt begränsad eller som har genomgått omfattande redigering. Att ersätta endast 10 procent av orden i en text på 400 tokens med synonymer minskade identifieringsgraden från cirka 92 procent till 66 procent.
Företaget klargör att en vattenmärkning inte kan bevisa vem som äger texten, om den är korrekt, eller vem som har genererat den. Frånvaron av en detekterad vattenmärkning bevisar inte heller att en människa har skrivit texten. Dessa begränsningar är en anledning till att detektorn inte görs publikt tillgänglig vid lanseringen.
Införandet sker i linje med EU:s kommande regelverk för AI, som kräver att generativa AI-system gör skapad text identifierbar. OpenAI ser nu vattenmärkningen som en signal om att texten kan ha producerats eller bearbetats av ett OpenAI-system, snarare än ett definitivt bevis på AI-ursprung.