Anthropic kehittää menetelmää tekoälymallien alkuperän varmentamiseen
Anthropic on esitellyt FlashProve-järjestelmän, jonka avulla käyttäjät voivat todentaa kryptografisesti, mikä tekoälymalli on tuottanut tietyn vastauksen.
Tutkijat ovat kehittäneet FlashProve-nimisen avoimen lähdekoodin järjestelmän, joka mahdollistaa tekoälymallien tuottamien vastausten alkuperän todentamisen. Menetelmä käyttää matemaattista kryptografista varmennusta, jolla taataan, että tietty sisältö on peräisin ilmoitetusta mallista.
Järjestelmän tavoitteena on estää petoksia, joissa tekoälyyritykset saattaisivat korvata kalliita malleja edullisemmilla vaihtoehdoilla käyttäjien huomaamatta. FlashProve tarjoaa teknisen suojan myös tilanteissa, joissa kolmannet osapuolet väittävät hyödyntäneensä tiettyä kehittynyttä mallia esimerkiksi kyberturvallisuusanalyysissä.
Toimiakseen järjestelmä vaatii, että tekoälylaboratoriot julkaisevat mallistaan digitaalisen sormenjäljen. Tämä sormenjälki mahdollistaa varmentamisen paljastamatta mallin luottamuksellisia painoarvoja tai sisäistä arkkitehtuuria. Järjestelmä on suunniteltu kevyeksi, mikä mahdollistaa nopean varmentamisen käytännön sovelluksissa.