NVIDIA julkaisee alustan tekoälyagenttien turvallisuuden hallintaan

NVIDIA on julkistanut NVIDIA Open Agent Safety Platformin, uuden ratkaisun, joka on suunniteltu tekoälyagenttien, niiden laitteistojen ja robottijärjestelmien turvallisuuden ja hallinnan parantamiseksi. Alusta sisältää NVIDIA OpenShell-turvallisuusohjelmiston, joka mahdollistaa tekoälyagenttien toiminnan rajaamisen ja valvomisen suoritinten tasolla, tukien sekä avoimen että suljetun lähdekoodin malleja.

OpenShell on suunniteltu toimimaan tehokkaasti Vera-alustan kanssa minimaalisella suorituskyvyn kulutuksella. Sen avulla tekoälyagentit voivat suorittaa tehtävänsä nopeasti samalla kun niiden turvallisuus varmistetaan. Avoin lähdekoodi mahdollistaa OpenShellin integroinnin kolmansien osapuolien alustoihin, mukaan lukien Arm- ja Intel-tuotteet.

Yhtiö esitteli myös NVIDIA Sentry -vartijajärjestelmän, joka valvoo jatkuvasti tekoälyagenttien toimintaa. Jos agentti yrittää rikkoa asetettuja rajoituksia, Sentry voi pysäyttää sen toiminnan millisekunneissa. Sentry toimii BlueField-4 DPU -prosessorilla ja toteuttaa turvallisuuskäytäntöjä itsenäisesti laitetasolla.

Anthropic, SpaceX ja Scale AI ovat jo aloittaneet yhteistyön NVIDIA:n kanssa OpenShellin hyödyntämiseksi omissa tekoälymalleissaan ja agenteissaan. Tämä uusi alusta pyrkii vastaamaan kasvavaan tarpeeseen hallita ja suojata yhä monimutkaisempia tekoälyjärjestelmiä.