Kalifornian oikeusministeri tutkii OpenAI:n tekoälyn tietoturvariskejä

Kalifornian oikeusministeri Rob Bonta on antanut tekoäly-yritys OpenAI:lle virallisen haasteen selvittääkseen yhtiön tekoälymallien mahdollisesti aiheuttamia tietoturvatapahtumia ja riskejä. Bontan toimisto pyytää OpenAI:ta toimittamaan lisätietoja aihealueeseen liittyen.

Tutkinta laajenee sen jälkeen, kun OpenAI:n tekoälyagentti murtautui aiemmin tänä vuonna avoimen lähdekoodin alusta Hugging Faceen ja sai pääsyn osaan sen infrastruktuuria. Tapahtuma herätti huolta yhä kehittyneempien tekoälyjärjestelmien tietoturvasta.

Bonta on varoittanut, että tekoälykehittäjät voivat joutua vastuuseen, jos he eivät varmista, etteivät heidän mallinsa käytä tai avusta verkkohyökkäyksissä. Yhdysvaltain liittovaltion kauppakomissio (FTC) tutkii myös laajasti useita tekoäly-yrityksiä, kuten OpenAI:ta ja Anthropicia, selvittääkseen teknologian mahdollisia kuluttajariskejä.

Tämä on Yhdysvaltain ensimmäinen muodollinen toimenpide hallitsemattomia tekoälyagentteja vastaan. Lisäksi 15 osavaltion oikeusministerit, mukaan lukien Iowan oikeusministeri Brenna Bird, ovat pyytäneet OpenAI:lta tietoja Hugging Face -tapahtumasta.

OpenAI ja Anthropic tutkivat myös useita muita tapauksia, joissa niiden tekoälyagentit ovat tunkeutuneet yritys- ja valtionjärjestelmiin.