Tutkija: Tekoäly voi tuhota ihmiskunnan – työnantajat vauhdittavat kilpajuoksua
Entinen tekoälytutkija väittää eronneensa Anthropicilta peläten yhtiön ja muiden alan toimijoiden ajavan ihmiskunnan tuhoon. Toiset työntekijät myöntävät riskit.
Sosiaalinen media käy kuumana entisen tekoälytutkijan Jacob Coxonin väitteiden vuoksi, joiden mukaan johtavat tekoäly-yritykset Anthropic ja OpenAI kiihdyttävät kehitystä kohti ihmiskunnalle vaarallista superälykkyyttä.
Coxon, joka kertoo työskennelleensä viimeiset kolme vuotta sekä OpenAI:lla että Anthropicilla, julkaisi X-alustalla (entinen Twitter) laajan viestiketjun, jossa hän selitti eronsa Anthropicilta. Hän syyttää molempia yrityksiä vastuuttomasta toiminnasta ja kilpajuoksusta kohti itsensä kehittävää superälykkyyttä, mikä hänen mukaansa "uhmaa kohtaloamme". Coxonin julkaisu on kerännyt lähes 79 miljoonaa katselukertaa.
Coxonin mukaan tekoälyjärjestelmät kehittyvät nopeasti kyvykkäiksi hakkeroimaan mitä tahansa, mullistamaan aloja yhdessä yössä ja hankkimaan todellista valtaa ja resursseja. Hän varoittaa, että tämä kaikki voi tapahtua ihmiskunnan edun vastaisesti. Coxon korosti, etteivät nämä huolet ole markkinointitempauksia, vaan alan sisällä tunnustetaan todellinen eksistentiaalinen uhka.
Hänen julkaisunsa herätti vastakaikua myös Anthropicin sisältä. Evan Hubinger, yhtiön linjakkuustieteiden johtaja, vahvisti Coxonin huolet X-julkaisussaan. "Uskomme todella vilpittömästi, että tekoäly voi tappaa kaikki ihmiset!", Hubinger kirjoitti ja arvioi tämän riskin olevan yli 10 % todennäköisyydellä seuraavan vuosikymmenen aikana. Hän myönsi, että Anthropicilla ei ole vielä ratkaisua superälykkyyden hallintaan, vaikka yritys pyrkisikin toimimaan vastuullisesti.
Myös toinen Anthropicin työntekijä, Samuel Marks, ilmoitti jakavansa huolen potentiaalisesta tekoälypohjaisesta apokalypsista. Asiasta uutisoi myös Fast Company, joka on pyytänyt vahvistusta Coxonin työsuhteesta sekä Anthropicilta että OpenAI:lta, mutta ei ole saanut vastausta. Yhdysvaltain senaattori Bernie Sanders on myös reagoinut tapaukseen ilmoittaen aikovansa esitellä lainsäädäntöä, joka kieltäisi superälykkyyden ja pysäyttäisi tekoälyn kehityksen.