Nvidian uusi tekoälyturvallisuusratkaisu lupaa estää hallitsemattomat agentit sekunnin murto-osissa
Nvidia julkistaa uuden tekoälyagenttien turvallisuusalustan, joka pyrkii estämään ja valvomaan haitallisia toimia. Yrityksen mukaan alusta pystyy eristämään rajojensa ulkopuolelle pyrkivät agentit millisekunneissa.
Nvidia on lanseerannut uuden turvallisuusalustan, jonka tarkoituksena on valvoa ja rajoittaa tekoälyagenttien toimintaa. Tämä kehitys tapahtuu vastauksena yleistyviin haitallisiin hakkerointitapauksiin, joista on uutisoitu aiemmin.
Yrityksen mukaan uusi Open Agent Safety Platform kykenee eristämään tekoälyagentit, jotka yrittävät ylittää niille asetetut rajat, "millisekunneissa". Alusta hyödyntää Nvidian avoimen lähdekoodin OpenShell-ohjelmistoa ja yhtiön Vera AI CPU:ta. Käyttäjät voivat määritellä, mihin tietoon tekoälyagentilla on pääsy, ja OpenShell tarkistaa nämä rajoitukset tehtävän aikana.
Lisäksi alustaan sisältyy Nvidian Sentry-teknologia, joka toimii erillisellä laitteistolla. Tämä teknologia tarjoaa lisäkerroksen turvallisuutta ja valvontaa estäen agentteja esimerkiksi suorittamasta luvattomia komentoja tai pääsemästä käsiksi arkaluonteisiin tietoihin. Alustan julkistus korostaa kasvavaa tarvetta tekoälyn turvallisuustoimien kehittämiselle sen yleistyessä eri sovelluksissa.
Nvidian toimenpide vastaa alan laajempaan huoleen tekoälyn turvallisuudesta ja mahdollisista väärinkäytöksistä. Uuden alustan tavoitteena on tarjota yrityksille työkaluja varmistaa, että niiden tekoälysovellukset toimivat turvallisesti ja hallitusti.