Cisco lanserar gratis databas för att verifiera ursprunget för öppna AI-modeller

Cisco har lanserat AI Supply Chain Provenance Explorer, en gratis och publik databas avsedd att öka transparensen och säkerheten för öppna AI-modeller. Databasen tillhandahåller information om nästan 900 modeller, inklusive deras ursprungsplats, en grafisk representation av deras härkomst, licensvillkor och antalet körda filskanningar.

Verktyget bygger på Ciscos tidigare släppta öppen källkods-Python-verktyg, Model Provenance Kit. Tidigare baserades identifieringen av AI-modellers ursprung ofta på självrapporterad metadata, såsom "base_model"-taggen på plattformar som Hugging Face. Denna tagg är användargenererad och har saknat verifiering på vikt-nivå. Ciscos nya metod använder istället likhetsanalys av modellens arkitektur och vikter för att mer tillförlitligt fastställa härstamning.

Dessutom integrerar AI Supply Chain Provenance Explorer säkerhetskontrollinformation. Cisco har tidigare utvecklat sitt Cerberus-system för att granska modeller som laddas upp till Hugging Face. Det nya verktyget gör denna typ av data, såsom identifiering av riskfyllda licenser eller ursprungsländer, fritt tillgänglig och sökbar utan krav på separata Cisco-produkter.

Enligt Cisco kan bristen på insyn i ursprunget för öppna AI-modeller göra system sårbara för attacker. Amy Chang, chef för AI Threat Intelligence and Security Research hos Cisco, betonar vikten av detta: "Om du inte förstår hur modeller är mottagliga för olika typer av attacker, kan du inte heller förstå var felpunkterna finns." Att förstå ursprung och struktur är avgörande för säkerheten i AI-applikationer.