OpenAI vattenmärker ChatGPT-utdata som standard i EU

OpenAI kommer att börja vattenmärka text som genereras med ChatGPT automatiskt inom Europeiska unionen, har företaget meddelat. Beslutet är ett direkt svar på EU:s AI-akt, som kräver att innehåll skapat av artificiell intelligens ska vara identifierbart. Medan vattenmärkningsfunktionen kommer att vara tillgänglig globalt, kommer den inte att vara aktiverad som standard utanför EU.

EU:s AI-akt, som trädde i kraft i augusti, kräver att AI-genererat innehåll märks på ett sätt som möjliggör upptäckt. OpenAI:s proprietära metod, kallad textGrain, bäddar in omärkliga mönster i texten som kan identifieras av en specialiserad detektor. Detta tillvägagångssätt syftar till att ge AI-genererat innehåll en spårbar komponent utan att signifikant ändra utdatakvaliteten för mänskliga läsare.

OpenAI planerar att ge tillgång till sitt textGrain-detektionsverktyg till en utvald grupp forskare och organisationer. Företaget avser också att etablera en process för andra enheter att begära tillgång över tid. Effektiviteten och säkerheten hos sådana vattenmärkningsmetoder är dock fortfarande föremål för diskussion, eftersom befintliga metoder har visat sig kunna kringgås med tillräcklig teknisk kunskap.

Införandet av standardvattenmärkning i EU belyser den växande regulatoriska miljön för artificiell intelligens och de utmaningar som företag står inför när det gäller att balansera efterlevnad med teknisk genomförbarhet. De långsiktiga effekterna av denna åtgärd på AI-innehållsskapande och upptäckt återstår att fastställas.