Ant Group julkaisi avoimen lähdekoodin tekoälyn turvallisuusmallit

Kiinalainen teknologiayritys Ant Group on julkaissut avoimena lähdekoodina SingGuard-NSFA-turvamallin, joka on suunniteltu autonomisten tekoälyagenttien suojaksi.

Yhtiö kertoi myös yksityiskohdat SingGuard-mallista, joka on tarkoitettu multimodaalisten tekoälyjärjestelmien turvallisuuteen. SingGuard-NSFA:n on tarkoitus tunnistaa ja estää erilaisia uhkia, kuten kehotteiden injektointi, arkaluontoisten tietojen varastaminen, haitallisen koodin suorittaminen, resurssien väärinkäyttö ja käyttöoikeuksien epäasianmukainen käyttö, ennen kuin tekoälyagentit ryhtyvät toimiin.

Malli kattaa seitsemän pääriskikategoriaa, 28 alaluokkaa ja 185 skenaariota 133 eri kielellä. Arviointijärjestelmä sisältää lähes 100 000 näytettä. Ant Groupin mukaan mallista on saatavilla eri kokoisia versioita (0.8B, 2B, 4B ja 9B parametria), ja se kykenee tekemään yksittäisen riskinarvion noin 50 millisekunnissa.

Teknologiayritykset lisäävät jatkuvasti panostuksiaan tekoälyn turvallisuuteen yhä kehittyneempien ja autonomisempien järjestelmien yleistyessä markkinoilla. Avoimen lähdekoodin julkaisut pyrkivät nopeuttamaan alan kehitystä ja parantamaan yleistä turvallisuustasoa.