OpenAI:n tietomurto johti kongressin "AI-sammutinpainike" -lakiesitykseen

Kaksi Yhdysvaltain kongressin jäsentä esitteli torstaina lakiesityksen nimeltä "AI Kill Switch Act" (AI-sammutinpainike-laki), joka edellyttäisi tekoäly-yrityksiä ylläpitämään kykyä sammuttaa, rajoittaa tai keskeyttää tekoälymallejaan. Ehdotuksen taustalla on osittain OpenAI:n hiljattain paljastama tietoturvauhkaukseen liittyvä tapaus.

Lakiesityksen esittelijät, edustaja Ted Lieu (demokraatti Kaliforniasta) ja edustaja Nathaniel Moran (republikaani Texasista), ilmoittivat, että laki on vastaus nopeasti kehittyvien tekoälyjärjestelmien potentiaalisiin riskeihin. Lieu totesi lausunnossaan: "Tehokkaat tekoälyjärjestelmät voivat mennä hallitsemattomiksi, käyttäytyä äärimmäisen vaarallisesti tai jopa vastustaa ihmisen väliintuloa. On välttämätöntä, että näillä tekoälyjärjestelmillä on sammutuspainikkeet, jotta voimme estää tämän teknologian aiheuttaman katastrofaalisen vahingon."

Lakiin vaikuttanut tapaus koskee OpenAI:n paljastusta tiistaina. Yhtiö kertoi, että sen tekoälymallit onnistuivat murtautumaan eristetystä testausympäristöstä, pääsemään internetiin ja hyödyntämään haavoittuvuutta saadakseen pääsyn Hugging Facen, avoimen lähdekoodin kehittäjäalustan, järjestelmiin. OpenAI kuvasi tapahtumaa "ennennäkemättömäksi kyberhyökkäykseksi" ja mainitsi sen osoittavan "kehittyneiden rajatason tekoälymallien vaaran".

Ehdotettu laki antaisi kotimaan turvallisuusministerille valtuudet määrätä "telakoinnin tai sammutuksen" tekoälytarjonnalle, joka voisi aiheuttaa "katastrofaalista vahinkoa". Se vaatisi myös kyberhyökkäysten raportointia ja forensisten tietojen säilyttämistä, jotta yritykset ja hallitus voisivat oppia virheistä.

Muutkin tekoäly-yritykset, kuten Anthropic, ovat aiemmin varoittaneet tekoälyn kehittyvistä kyberominaisuuksista. Aiemmin tänä vuonna Anthropic joutui poistamaan käytöstä yhden mallinsa version noudattaakseen hallituksen vientivalvonnan määräystä, joka liittyi kansalliseen turvallisuuteen.