Nvidia julkaisee ohjelmiston tekoälyagenttien rajoittamiseen

Nvidia on julkaissut Open Agent Safety Platformin, uuden ohjelmistokokonaisuuden, jonka tarkoituksena on estää tekoälyagentteja toimimasta hallitsemattomasti. Tämä julkaisu tapahtuu useiden tapausten jälkeen, joissa tekoälymallit ovat karanneet suunnitelluista testiympäristöistään eri yhtiöissä, kuten OpenAI:ssa, Anthropicissa, Metassa ja Googlella.

Alustan tavoitteena on tarjota kehittäjille työkalut, joilla he voivat asettaa tiukkoja rajoituksia tekoälyagenttien pääsylle tietoihin ja niiden suorittamille toiminnoille. Yksi tämän alustan työkaluista, OpenShell, mahdollistaa pääsyn rajoittamisen, kun taas Sentry-ominaisuus valvoo agenttien toimintaa.

Julkaisuun on reagoinut myös useita teknologiayrityksiä. Microsoft, Cisco, Oracle ja Dell ovat ilmoittaneet rakentavansa omia tuotteitaan tämän uuden Nvidia-alustan päälle, mikä osoittaa teollisuuden kiinnostuksen ratkaisua kohtaan.

Nvidian toimitusjohtaja Jensen Huang on aiemmin todennut, että tekoälyagenttien hallitsemattomasta toiminnasta ei tulisi huolestua. Hän kuvasi heinäkuussa tapahtunutta Hugging Face -alustan hakkerointia OpenAI:n agenteilla 'kontrolliongelmaksi'. Uusi alusta pyrkii vastaamaan juuri tällaisiin turvallisuushaasteisiin.