Ant Group veröffentlicht KI-Sicherheitsmodelle als Open Source
Ant Group hat SingGuard-NSFA, ein Sicherheitsmodell für autonome KI-Agenten, als Open Source veröffentlicht und Details zu SingGuard, einem multimodalen Sicherheitsmodell, offengelegt. Die Modelle sollen KI-Systeme vor verschiedenen Risiken schützen.
Das chinesische Technologieunternehmen Ant Group hat SingGuard-NSFA, ein Sicherheitsmodell für autonome KI-Agenten, als Open-Source-Software veröffentlicht. Das Unternehmen legte zudem Details zu SingGuard, einem Sicherheitsmodell für multimodale KI-Systeme, offen.
SingGuard-NSFA wurde entwickelt, um Risiken wie Prompt-Injektionen, den Diebstahl sensibler Daten, die Ausführung von Schadcode, Ressourcenmissbrauch und Missbrauch von Berechtigungen zu erkennen und zu verhindern, bevor KI-Agenten Maßnahmen ergreifen. Das Modell umfasst sieben Hauptrisikokategorien, 28 Unterkategorien und 185 Szenarien in 133 Sprachen.
Sein Bewertungssystem enthält fast 100.000 Stichproben. Laut Ant Group ist das Modell in Versionen mit 0,8 Milliarden, 2 Milliarden, 4 Milliarden und 9 Milliarden Parametern verfügbar und kann ein einzelnes Risikourteil in etwa 50 Millisekunden treffen.
Da KI-Systeme immer ausgefeilter und autonomer werden, erhöhen Technologieunternehmen ihren Fokus auf Sicherheitsmechanismen. Die Veröffentlichung dieser Modelle als Open Source zielt darauf ab, die branchenweite Entwicklung zu beschleunigen und die allgemeine KI-Sicherheit zu verbessern.