Anthropic lisää vesileimat Claude-sisältöön syväväärennösten lisääntyessä

Tekoäly-yhtiö Anthropic on ilmoittanut tekevänsä koneellisesti luettavista vesileimoista oletusominaisuuden kaikissa Claude-tuotteissaan maailmanlaajuisesti. Uutinen tulee vastauksena kasvavaan huoleen syväväärennösten ja muun tekoälyn luoman sisällön leviämisestä, joka vaikeuttaa aidon ja keinotekoisen tiedon erottamista.

Uusi käytäntö koskee Claude-malleja, jotka lanseerataan Euroopan unionissa 2. elokuuta 2026 tai sen jälkeen, ja vanhempiin malleihin lisätään tuki siirtymäkauden aikana. Vesileimat ovat piilotettuja merkintöjä, jotka ovat luettavissa koneellisesti mutta eivät suoraan ihmisen silmin, ja ne on suunniteltu pysymään sisällössä riippumatta sen jatkokäytöstä. Tukiään, kuvatiedostoja ja muita tiedostotyyppejä varten Anthropic aikoo käyttää sisäänrakennetun tekstin vesileimojen lisäksi myös allekirjoitettua metatietoa, joka noudattaa C2PA-standardia.

Kilpailijat, kuten Google, ovat jo ottaneet käyttöön vastaavia teknologioita. Googlen SynthID-järjestelmä vesileimaa Gemini-mallin tuottamaa tekstiä, kuvaa ja ääntä. OpenAI kehitti aiemmin oman vesileimatyökalunsa, mutta ei ottanut sitä käyttöön ChatGPT:ssä mahdollisten virheellisten syytösten ja käyttäjäpalautteen pelossa. Anthropic myöntää, että vesileima ei ole kiistaton todiste tekoälyn tuotannosta, sillä sisältöä voidaan muokata sen jälkeen.

Toimitusjohtaja Amitabh Kumarin Contrails AI:sta mukaan vesileimojen käyttöönotto on vähimmäisvaatimus, mutta hän korostaa, että nykyinen toteutus jättää aukkoja. Merkkien säilymisestä digitaalisissa kopioissa ja tunnistustyökalujen saatavuudesta kolmansille osapuolille on vielä epäselvyyksiä. Intiassa syväväärennökset ovat jo aiheuttaneet merkittävää haittaa, kuten poliittisten toimijoiden väärennetyt videot vaalien aikana ja talouspetosten lisääntyminen.

On epäselvää, onnistuuko Anthropicin ratkaisu välttämään kilpailijoiden kohtaamat haasteet. Vesileimojen tehokkuus riippuu avoimista tunnistustyökaluista, standardien yhteentoimivuudesta ja siitä, että yritykset eivät pidä merkintöjä vain muodollisena vaatimusten täyttönä. Anthropic on luvannut jakaa teknisiä ohjeita lähestymistavastaan, ja alan odotetaan seuraavan, kuinka nopeasti nämä lupaukset muuttuvat toimiviksi merkinnöiksi.