Anthropic utvecklar system för att verifiera AI-modellers ursprung
Anthropic har presenterat FlashProve, ett system som använder kryptografiska bevis för att bekräfta vilken AI-modell som genererat ett specifikt svar.
Forskare har tagit fram FlashProve, ett system med öppen källkod avsett för att bekräfta att en AI-genererad text eller data faktiskt härrör från den modell som påstås ligga bakom. Genom kryptografisk bevisföring får användare en matematisk garanti för modellens identitet.
Systemet är utformat för att motverka vilseledande praxis, exempelvis om en leverantör i hemlighet byter ut en avancerad modell mot en billigare version för att reducera driftkostnader. Dessutom möjliggör tekniken att tredjepartsaktörer kan bevisa att en specifik uppgift har utförts av en viss typ av modell, exempelvis vid automatiserade sårbarhetsanalyser.
För att implementera tekniken publicerar AI-labb ett så kallat ”fingeravtryck” för varje modell. Denna metod skyddar företagens affärshemligheter, då de interna modellvikterna förblir privata och otillgängliga. Systemet är byggt för att vara resurseffektivt, vilket möjliggör verifiering i realtid för slutanvändare.