OpenAI:n entinen turvallisuuspäällikkö huolissaan riskienhallinnasta

David Robinson, entinen OpenAI:n turvallisuuspäällikkö, on ilmaissut syvän huolensa tekoälyn kehityksen nopeudesta ja sen mukanaan tuomista riskeistä. Robinson, joka työskenteli OpenAI:lla kolmen vuoden ajan turvallisuuskysymysten parissa, kertoi jättäneensä yrityksen syyskuun lopussa. Hänen mukaansa tekoälyalan yritykset, kuten OpenAI, toimivat edelleen kuin startupit, vaikka niiden kehittämät järjestelmät ovat huomattavasti aiempaa kyvykkäämpiä ja riskialttiimpia.

Hänen mukaansa tekoälyjärjestelmien hallinnan menettäminen voisi aiheuttaa suurempaa vahinkoa kuin esimerkiksi ydinvoimalan onnettomuus. Robinson vertasi tekoälykehitystä ydinvoimaan ja totesi, että turvallisuusvaatimusten tulisi vähintään vastata ihmisten jo hallitsemien vaarallisten teknologioiden turvallisuuskäytäntöjä. Hän mainitsi esimerkkeinä ydinvoima-alan tiukat lisensointivaatimukset, pakollisen tapaturmaraportoinnin ja selkeät komentoketjut.

Robinson kuvaili OpenAI:n sisäistä kulttuuria hajautuneeksi, jossa päätöksentekovaltaa ei aina tiedetä. Hän nosti esiin myös syitä sille, miksi älykkäät ihmiset saattavat aliarvioida riskejä. Näitä syitä ovat raha, pelko ja aikarajoitukset. Robinsonin mukaan erityisesti taloudellinen panostus voi saada ihmiset vakuuttuneiksi siitä, että asiat ovat hyvin tai tulevat olemaan.

Robinsonin mukaan tekoälyn kehitykseen liittyvät uhkakuvat eivät olleet hänen mielestään aluksi todellisia, mutta todistusaineisto työskennellessään OpenAI:lla muutti hänen näkemyksensä. Hänen keskeinen kritiikkinsä kohdistuu kehityksen tahtiin ja organisaatiorakenteisiin, jotka eivät hänen mukaansa vastaa kehitteillä olevien järjestelmien vaarallisuutta.