Cisco veröffentlicht kostenlose Datenbank zur Überprüfung des Ursprungs offener KI-Modelle

Cisco hat den AI Supply Chain Provenance Explorer gestartet, eine kostenlose öffentliche Datenbank, die darauf abzielt, die Transparenz und Sicherheit offener künstlicher Intelligenz (KI)-Modelle zu verbessern. Das Werkzeug liefert Details zu fast 900 Open-Source-Modellen, einschließlich Hauptsitzen der Anbieter, Abstammungsgraphen, Lizenzbeschränkungen und der Anzahl gescannter Dateien.

Der Explorer baut auf dem zuvor veröffentlichten Open-Source-Python-Toolkit von Cisco, dem Model Provenance Kit, auf. Historisch gesehen beruhte die Abstammung von KI-Modellen stark auf selbst gemeldeten Metadaten, wie dem "base_model"-Tag auf Plattformen wie Hugging Face. Dieser vom Uploader ausgefüllte Tag war von unabhängiger Verifizierung ausgenommen. Ciscos neuer Ansatz nutzt Ähnlichkeitsanalysen der Modellarchitektur und -gewichte, um eine robustere Methode zur Bestätigung der Modellableitung zu bieten.

Darüber hinaus integriert der AI Supply Chain Provenance Explorer Daten aus Sicherheitsüberprüfungen. Cisco entwickelte zuvor sein Cerberus-System zur Inspektion von auf Hugging Face hochgeladenen Modellen. Das neue Werkzeug macht ähnliche Informationen, wie Identifikatoren für riskante Lizenzen oder Herkunftsländer, frei verfügbar und durchsuchbar, ohne dass separate Cisco-Produkte erforderlich sind.

Laut Cisco kann ein Mangel an nachprüfbarer Abstammung für offene KI-Modelle Systeme anfällig für Schwachstellen machen. Amy Chang, Leiterin von AI Threat Intelligence and Security Research bei Cisco, erklärte: "Wenn Sie nicht verstehen, wie Modelle anfällig für verschiedene Arten von Angriffen sind, können Sie auch nicht nachvollziehen, wie das Modell, das Ihren Agenten, Ihre Anwendung antreibt, wo diese Fehlerpunkte liegen." Das Verständnis des Ursprungs und der Struktur eines Modells wird als entscheidend für die Sicherheit von KI-Anwendungen dargestellt.