Anthropic entwickelt System zur Überprüfung der Identität von KI-Modellen
Anthropic arbeitet an FlashProve, einem System, das kryptografische Beweise nutzt, um die Urheberschaft von KI-generierten Inhalten zu verifizieren.
Mit dem Projekt FlashProve hat Anthropic ein System vorgestellt, das mittels kryptografischer Beweise sicherstellt, dass eine KI-Antwort tatsächlich von dem Modell stammt, das behauptet wird. Ziel ist es, eine überprüfbare Transparenz bei der Interaktion mit KI-Systemen zu schaffen.
Das System zielt darauf ab, irreführende Praktiken zu verhindern, wie etwa den heimlichen Austausch teurer Modelle gegen kostengünstigere Alternativen. Zudem bietet es eine technische Grundlage für Dritte, um zu belegen, dass sensible Aufgaben, etwa im Bereich der Cybersicherheit, von einem spezifischen Modell durchgeführt wurden.
Technisch funktioniert der Ansatz über einen digitalen Fingerabdruck des Modells, der vom Entwickler veröffentlicht wird. Dabei bleiben die geschützten Modellgewichte und somit das geistige Eigentum der Unternehmen geheim. Das System wurde so konzipiert, dass die Verifizierung ressourcenschonend durchgeführt werden kann.