Tutkija erosi AI-alalta turvallisuushuolien vuoksi

Tekoälytutkija Jacob Coxon ilmoitti eilen eroavansa tekoälyalalta, vedoten vakaviin huoliin teknologian turvallisuudesta. Coxon, joka on aiemmin työskennellyt myös OpenAI:lla, syytti entisiä työnantajiaan "kiiruhtamisesta kohti itseään parantavaa superälyä ja elämällämme uhkapelaamisesta".

Coxonin julkinen eroaminen ja varoitukset hänen X-alustan päivityksissään ovat herättäneet laajaa huomiota. Hänen mukaansa osa tutkijoista uskoo, että tekoäly voi "tappaa meidät kaikki vuosikymmenen loppuun mennessä". Anthropicin osaamisen johtamiseen erikoistunut johtaja Evan Hubinger vahvisti, että tällaisia pelkoja kehittyneen tekoälyn eksistentiaalisista riskeistä esiintyy alalla.

Coxon ei ole ensimmäinen, joka on jättänyt alaa eettisten huolien vuoksi. Aiemmin tänä vuonna useat OpenAI:n turvallisuus- ja hallintatiimien jäsenet erosivat yrityksestä turvallisuusnäkemysten erimielisyyksien vuoksi. Myös Anthropicin oma turvallisuustutkija Mrinank Sharma jätti yrityksen aiemmin tänä vuonna, ilmaisten huolensa tekoälystä, bioterrorismista ja sisäisestä paineesta.

Eroamiset toimivat vahvoina signaaleina kasvavista turvallisuushuolista tekoälylaboratorioissa, kommentoi professori Stuart Russell Kalifornian yliopistosta. "Ihmiset alkavat todella kuunnella", Russell totesi ja viittasi aiempiin huoliin Anthropicin Claude Mythos -mallista sekä OpenAI:n autonomisten tekoälyagenttien tietoturvaloukkaukseen. Vaikka on epäselvää, johtavatko eroareportit todellisiin turvallisuusparannuksiin, ne voivat auttaa lisäämään tietoisuutta riskeistä.