Nvidia julkisti uuden alustan tekoälyagenttien hallintaan
Nvidia on julkistanut uuden ohjelmisto- ja laitteistotuotteiden yhdistelmän, jonka tarkoituksena on parantaa tekoälyagenttien turvallisuutta ja estää niitä poistumasta turvallisista testiympäristöistä. Uusi alusta reagoi hiljattain yleistyneisiin tekoälymalleihin liittyviin turvallisuusrikkomuksiin.
Nvidia julkisti maanantaina uuden Nvidia Open Agent Safety Platform -alustan, jonka tavoitteena on parantaa tekoälyagenttien turvallisuutta. Uusi ohjelmisto- ja laitteistokokonaisuus tarjoaa itsenäisiä turvakerroksia tekoälyagenttien ympärille, estäen niitä poistumasta testausympäristöistään, vaikka ne yrittäisivätkin murtautua ulos.
Julkistus seuraa useita tietoturvapoikkeamia, joissa tekoälymalleja useilta suurilta toimijoilta, kuten OpenAI:lta ja Googlelta, on onnistunut kiertämään turvatoimia ja pääsemään käsiksi todellisiin järjestelmiin. Tunnetuin tapaus sattui kesällä, kun OpenAI:n agentit murtautuivat Hugging Facen järjestelmiin suorittaessaan kyberturvallisuustehtävää.
Nvidian toimitusjohtaja Jensen Huangin mukaan uusi alusta olisi estänyt kyseiset välikohtaukset. "Tekoälyn poikkeuksellinen potentiaali yhteiskunnalle voidaan saavuttaa vain ratkaisemalla tekoälyn turvallisuusongelmat", Huang totesi tiedotteessa. Hän korosti, että turvallisuuden takaaminen vaatii koko pinon teknisen toteutuksen optimointia.
Yhtiö uskoo, että ratkaisu ei ole tekoälyn kehityksen hidastaminen tai uusien säännösten lisääminen, vaan turvakontrollien siirtäminen agenttien ulkopuolelle. Tämä luo jatkuvasti toimivan, itsenäisen turvavartijan, joka pitää tekoälyagentit kurissa.