OpenAI testaa uutta tietoturvajärjestelmää tekoälymalleille

Tekoäly-yhtiö OpenAI on aloittanut Private Safety Processing -nimisen tietoturvajärjestelmän testauksen. Järjestelmä on suunniteltu tunnistamaan tekoälyn väärinkäyttötapauksia useiden käyttökertojen perusteella, mutta se ei anna OpenAI:n työntekijöille pääsyä asiakkaiden syötteisiin tai vastauksiin.

Uusi järjestelmä on jatkoa OpenAI:n aiemmalle Zero Data Retention -ominaisuudelle, joka mahdollistaa asiakastietojen säilyttämisen ulkopuolella. Private Safety Processing laajentaa suojausta kattamaan useita peräkkäisiä vuorovaikutuksia. Järjestelmän automatisoidut järjestelmät voivat havaita mahdollista väärinkäyttöä, kuten kuvioita, jotka ilmenevät vasta useiden pyyntöjen jälkeen. OpenAI:n mukaan asiakkaat voivat jatkossakin säilyttää sisältöä omassa infrastruktuurissaan tai vaihtoehtoisesti OpenAI kehittää ominaisuutta, jossa data salataan asiakkaan avaimilla.

Havaituista riskeistä OpenAI saa vain rajoitetun signaalin toiminnan tyypistä, ilman pääsyä varsinaiseen sisältöön. Asiakkaat voivat itse tarkastella hälytyksiä ja jakaa tietoja OpenAI:n kanssa tarvittaessa. Poikkeuksena ovat lapsiin kohdistuvaa seksuaalista hyväksikäyttömateriaalia (CSAM) koskevat tapaukset, jotka jatkossakin säilytetään manuaalista tarkastusta ja raportointia varten.

Kilpailija Anthropic sen sijaan vaatii 30 päivän säilytysajan syötteille ja tulosteille tietyissä malleissaan turvallisuusseurantaa varten, vaikka asiakas käyttäisi nollasäilytystä. OpenAI:n uusi järjestelmä pyrkii tarjoamaan vastaavan suojauksen ilman suoraa pääsyä asiakasdataan.

OpenAI on aloittanut järjestelmän testauksen valikoitujen asiakkaiden kanssa, ja sen on määrä tulla laajempaan käyttöön syyskuussa. Yritys ei ole vielä kommentoinut, onko järjestelmä saatavilla Intiassa tai onko siihen liittyen Intian markkinoille erityisehtoja.