OpenAI ottaa käyttöön vesileiman tekoälyn tuottamalle tekstille EU:ssa

Tekoäly-yhtiö OpenAI on ilmoittanut alkavansa merkitä tekoälyn tuottamaa tekstiä näkymättömällä tilastollisella vesileimalla EU:n alueella. Käyttöön tuleva järjestelmä pyrkii tunnistamaan OpenAI:n mallien, kuten ChatGPT:n ja Codoxin, tuottamaa tekstiä. Vesileiman lisääminen aloitetaan tulevien viikkojen aikana EU:ssa.

Uusi vesileima, nimeltään textGrain, muuttaa sanojen tilastollista valintajärjestystä lisäämättä näkyviä merkintöjä tai piilotettuja merkkejä. Vesileiman havaitsija tarkistaa, sisältääkö teksti kyseisen tilastollisen kuvion. Aluksi vain hyväksytyt tutkijat ja asiantuntijaorganisaatiot saavat pääsyn havaitsemisjärjestelmään. OpenAI korostaa, että järjestelmä ei tunnista käyttäjää tai paljasta pyyntöjä tai keskusteluja.

Vesileiman tunnistamisessa on selkeitä rajoituksia. OpenAI:n testit osoittavat, että järjestelmä toimii luotettavammin pidemmissä teksteissä. Lyhyemmissä, tiukasti rajatuissa tai voimakkaasti muokatuissa teksteissä tunnistamiskyky heikkenee. Esimerkiksi 10 prosenttia sanoista synonyymeilla korvaaminen lyhensi 400 tokenin tekstin tunnistusta noin 92 prosentista 66 prosenttiin.

OpenAI myöntää, että vesileima ei todista, kuka tekstin on omistanut tai onko se tarkkaa. Se ei myöskään tunnista tekstin tuottajaa. Vastaavasti vesileiman puuttuminen ei todista, että ihmisen kirjoittama teksti olisi ihmisen tuottamaa. Yhtiö mainitsee nämä rajoitukset syyksi sille, miksi havaitsemisjärjestelmää ei julkaista laajasti heti.

EU:n tekoälysäädösten mukaan tekoälyjärjestelmien tarjoajien on tehtävä tuotettu teksti tunnistettavaksi koneellisesti luettavassa muodossa. OpenAI:n ratkaisu on toistaiseksi signaali siitä, että OpenAI:n järjestelmä on saattanut tuottaa tai käsitellä tekstiä, ei todiste tekoälyn tekijyydestä. Yhtiö aikoo tutkia vesileiman toimivuutta muokkausten ja käännösten jälkeen.