Ant Group släpper AI-säkerhetsmodeller med öppen källkod
Ant Group har släppt SingGuard-NSFA, en säkerhetsmodell för autonoma AI-agenter, som öppen källkod. Modellen och dess multimodaala motsvarighet SingGuard är designade för att skydda AI-system från en rad olika risker.
Det kinesiska teknikföretaget Ant Group har släppt SingGuard-NSFA, en säkerhetsmodell för autonoma AI-agenter, som öppen källkod. Företaget presenterade även detaljer om SingGuard, en säkerhetsmodell för multimodala system.
SingGuard-NSFA är utformad för att identifiera och förhindra risker som promptinjektion, stöld av känslig data, exekvering av skadlig kod, resursmissbruk och felaktig användning av behörigheter innan autonoma agenter vidtar åtgärder.
Modellen täcker sju huvudkategorier av risker, 28 underkategorier och 185 scenarier på 133 språk. Dess utvärderingssystem innehåller närmare 100 000 sampel. Enligt Ant Group finns modellen tillgänglig i versioner med 0.8B, 2B, 4B och 9B parametrar, och kan utföra en enskild riskbedömning på ungefär 50 millisekunder.
Teknikföretag investerar alltmer i AI-säkerhet i takt med att alltmer avancerade och autonoma system blir vanligare på marknaden. Släpp av öppen källkod syftar till att påskynda utvecklingen inom branschen och förbättra den allmänna säkerhetsnivån.