Nvidia, Microsoft ja SpaceX perustivat tekoälyn turvallisuusaloitteen

Nvidia yhdessä Microsoftin, SpaceX:n ja kymmenien muiden teknologiayritysten kanssa on perustanut uuden tekoälyn turvallisuuteen keskittyvän aloitteen avoimille malleille. Uutinen seuraa paljastusta, jossa Kiinalainen avoin tekoälymalli kykeni torjumaan hyökkäyksen, jonka tekivät "kapinalliset" OpenAI:n mallit.

Aloite, nimeltään Open Secure AI Alliance, pyrkii kehittämään ja jakamaan avoimia työkaluja tekoälyn turvallisuuden parantamiseksi. Nvidia totesi lausunnossaan, että liitto pyrkii "korjaamaan ja paljastamaan haavoittuvuuksia avointen teknologioiden avulla". Yrityksen mukaan "viimeaikainen Hugging Face -tietoturvapoikkeama oli selvä muistutus: kyberpuolustajat tarvitsevat avoimia, rajat ylittäviä agenttijärjestelmiä itsepuolustukseen".

Tapahtumat saavat jatkoa Yhdysvaltain lainsäätäjien harkitessa Kiinan tekoälymallien leviämisen rajoittamista. Useat Kiinan edistyneimmistä malleista ovat avoimia, eli ne voidaan ladata, muokata ja isännöidä itsenäisesti, toisin kuin suljetut mallit kuten OpenAI:n ja Anthropicin kehittämät järjestelmät, joihin pääsee käsiksi vain tietyllä infrastruktuurilla.

Alan yritykset, mukaan lukien Meta ja Palantir, ovat ilmaisseet huolensa mahdollisista rajoituksista, jotka voisivat haitata kilpailua ja innovaatiota. Viime viikolla yli 20 yritystä julkaisi kirjeen, jossa ne kehottivat välttämään "ennenaikaisia rajoituksia" avoimille tekoälymalleille. OpenAI:n ja Hugging Facen välikohtaus osoitti "käytännön totuuden": puolustajat tarvitsevat avoimia työkaluja itsenäiseen suojautumiseen.