Anthropic introducerar textvattenmärke för Claude AI

AI-företaget Anthropic introducerar en ny teknik för att märka texter som skapats av deras Claude-modell. Till skillnad från traditionella vattenmärken är denna metod baserad på statistiska mönster som uppstår när modellen genererar text, snarare än synliga eller dolda tecken.

Systemet fungerar genom att modellen föredrar vissa ordval när den förutsäger nästa ord i en mening. Över längre textavsnitt skapar dessa preferenser ett statistiskt mönster som Anthropic kan detektera. Företaget betonar att vattenmärket inte är synligt, inte identifierar användaren och inte bevisar att hela texten är AI-genererad. Det kan också vara mindre effektivt för korta, faktabaserade eller kodintensiva texter, samt texter som har redigerats eller översatts avsevärt.

Anthropic uppger att tekniken inte märkbart påverkar textkvaliteten, hastigheten eller kostnaden. Införandet av vattenmärket sker i linje med EU:s AI-lagstiftning och branschöverenskommelser som kräver märkning av AI-genererat innehåll. Detta tyder på att regelefterlevnad är en primär drivkraft bakom utvecklingen.

Artikeln diskuterar också de bredare implikationerna av AI-textdetektering. Tekniken kan användas för att bedöma äkthet i akademiska sammanhang eller vid bedömningar av bidrag. Samtidigt ifrågasätts om AI-användning i utbildning bör normaliseras och fokus flyttas till lärandemätning. Rapporten lyfter fram att AI-detekteringsverktyg ofta är ofullständiga och kan ge falska positiva resultat. Dessutom undersöks utmaningarna med att identifiera innehåll som skapats med flera olika AI-verktyg.