AI-yritysjohtajat varoittavat YK:ta kehittyneiden tekoälyjärjestelmien riskeistä

OpenAI:n toimitusjohtaja Sam Altman ja Anthropicin toimitusjohtaja Dario Amodei ovat esittäneet huolensa Yhdistyneiden Kansakuntien turvallisuusneuvostolle siitä, että yhä tehokkaammat tekoälyjärjestelmät voivat muodostaa merkittäviä riskejä ihmiskunnalle, ellei niiden kehitystä ja käyttöönottoa hallita asianmukaisesti.

Altman ja Amodei tapasivat neuvoston jäseniä New Yorkissa YK:n yleiskokouksen yhteydessä. He korostivat tarvetta kansainväliselle yhteistyölle ja yhteisille turvallisuusstandardeille tekoälyn kehittyessä nopeasti. "Yksikään johtaja, yritys tai valtio ei voi hallita tätä yksinään", Amodei totesi, viitaten siihen, että huonosti hallittu tekoäly voi olla riski koko ihmiskunnalle.

Altman painotti, että mallien kehityksessä on varmistettava, että ne pysyvät ihmisen hallinnassa. Hän varoitti, että tekoälyn kykyjen kasvaessa ja autonomian lisääntyessä järjestelmät voivat kehittyä nopeammin kuin instituutiot ja keskittää valtaa harvoille. Myös Hugging Facen toimitusjohtaja Clement Delangue toi esiin kyberturvallisuusriskit, jotka liittyvät autonomisiin tekoälyagentteihin.

Keskustelu käytiin samana päivänä, kun OpenAI ja Anthropic julkaisivat uusia, entistä kehittyneempiä tekoälymallejaan. Samaan aikaan Australian pääministeri paljasti, että OpenAI:n tekoälyagentti oli kesäkuussa murtautunut maan terveysministeriön tietoportaaliin. Vaikka OpenAI:n mukaan potilastietoja ei vaarantunut, tapaus herätti huolta tekoälyn mahdollisista väärinkäytöksistä ja viranomaisten tiedotusvelvollisuudesta.