Cisco julkaisi ilmaisen tietokannan avoimien tekoälymallien alkuperän tarkistamiseksi

Cisco on tuonut markkinoille ilmaisen ja julkisesti saatavilla olevan AI Supply Chain Provenance Explorer -tietokannan, jonka tarkoituksena on parantaa avoimien tekoälymallien läpinäkyvyyttä ja turvallisuutta.

Tietokanta tarjoaa tietoa lähes 900 avoimesta tekoälymallista, mukaan lukien niiden kehittäjämaiden sijainnin, todellisen sukulinjan graafisen esityksen, lisenssiehdot ja suoritettujen tiedostoskannausten määrän. Uusi työkalu perustuu Ciscon aiemmin julkaisemaan avoimen lähdekoodin Python-työkaluun, Model Provenance Kitiin, joka mahdollisti mallien alkuperän selvittämisen.

Aiemmin mallien alkuperätiedot olivat usein vain lataajan itse ilmoittamia. Hugging Face -alustalla käytetty "base_model" -merkintä on käyttäjän syöttämä tieto, jota ei ole aiemmin vaadittu todistamaan painotason analyysillä. Ciscon uusi työkalu käyttää sen sijaan mallien arkkitehtuurin ja painotason samankaltaisuusanalyysia, mikä tarjoaa luotettavamman tavan todentaa mallien sukulaisuus ja alkuperä.

Lisäksi AI Supply Chain Provenance Explorer sisältää tietoa mallien turvallisuustarkistuksista. Cisco on aiemmin kehittänyt Cerberus-järjestelmää Hugging Face -alustalle ladattujen mallien tarkastamiseksi. Uusi työkalu tekee vastaavanlaista tietoa, kuten riskialttiiden lisenssien tai alkuperämaiden tunnisteita, vapaasti ja haettavissa olevaksi ilman, että asiakkaiden tarvitsee hankkia erillisiä Cisco-tuotteita.

Ciscon mukaan läpinäkyvyyden puute avoimien tekoälymallien alkuperässä voi altistaa järjestelmiä hyökkäyksille. "Jos et ymmärrä, miten mallit ovat alttiita erilaisille hyökkäyksille, et voi ymmärtää, missä vikaantumispisteet ovat", toteaa Amy Chang, Ciscon AI Threat Intelligence and Security Research -osaston johtaja. Alkuperän ja rakenteen ymmärtäminen onkin avainasemassa tekoälysovellusten turvallisuudessa.