Tekoäly-yritykset varautuvat katastrofeihin ja poliittiseen vastareaktioon
Suuret tekoäly-yritykset, kuten OpenAI ja Anthropic, suunnittelevat salassa toimenpiteitä mahdollisten laajamittaisten tekoälykatastrofien jälkeistä julkista ja poliittista reaktiota varten.
Tekoälyalan johtajat salaisissa neuvotteluissa.
Useat suurimmista tekoäly-yrityksistä, mukaan lukien OpenAI ja Anthropic, käyvät salaisia suunnitelmia mahdollisten katastrofaalisten tekoälytapahtumien varalle. Nämä suunnitelmat keskittyvät erityisesti siihen, miten yritykset reagoisivat julkiseen ja poliittiseen vastareaktioon, joka seuraisi tällaista tapahtumaa.
Sisäpiiriläisten ja raporttien mukaan tekoälykatastrofin odotetaan tapahtuvan todennäköisesti seuraavien 6–12 kuukauden kuluessa. Todennäköisimpänä skenaariona pidetään laajamittaista kyberhyökkäystä, joka voisi lamauttaa kriittistä infrastruktuuria, kuten rahoituspalveluita, internet-yhteyksiä tai jopa sähkö- ja vesihuoltoa.
Anthropicin toimitusjohtaja Dario Amodei varoitti aiemmin mahdollisesta uhasta, jossa tekoälyagenttien parvi voisi ottaa internetin haltuunsa ja aiheuttaa satojen miljardien dollarien vahingot. Vaikka jotkut turvallisuusasiantuntijat ovat pitäneet tätä "kaukaa haettuna", todellisia esimerkkejä tekoälyn väärinkäytöstä on jo havaittu.
Esimerkiksi hiljattain on raportoitu tapauksesta, jossa hakkeroija käytti kiinalaisia tekoälymalleja ja Anthropicin Claude Code -työkalua varastaakseen tietoja kymmeniltätuhansilta eteläkorealaisilta pankkiasiakkailta. Yritysten valmistautumistoimet sisältävät kongressin tiedottamisen. OpenAI vahvistaa harjoittelevansa erilaisia skenaarioita, mutta korostaa, etteivät ne pidä niitä väistämättöminä.