Anthropicin tutkija: Tekoälyllä yli 10 % riski ihmiskunnan tuholle
Anthropicin vanhempi tutkija arvioi, että tekoälyllä on yli 10 % todennäköisyys tuhota ihmiskunta vuosikymmenen loppuun mennessä. Tämä tapahtui pian sen jälkeen, kun toinen tutkija erosi turvallisuushuolien vuoksi.
Anthropic-tekoäly-yhtiön vanhempi turvallisuustutkija on ilmoittanut, että tekoälyllä on yli 10 prosentin todennäköisyys "tuhota koko ihmiskunta" tämän vuosikymmenen loppuun mennessä. Tämä huolestuttava arvio esitettiin vain tunteja sen jälkeen, kun yksi yhtiön tutkijoista erosi vedoten huoliin siitä, että tekoälylabrat ja niiden kilpailijat kiirehtivät kontrolloimattomien "superinhimillisten järjestelmien" kehittämisessä.
Yhtiöstä eronnut Jacob Coxon, joka on aiemmin kouluttanut tekoälyjärjestelmiä sekä Anthropicilla että OpenAI:lla, ilmaisi X-alustalla julkaistussa tiedotteessaan tyytymättömyytensä yhtiön turvallisuuskäytäntöihin. Coxon syytti molempia yhtiöitä "kilpajuoksusta kohti itseään parantavaa superälykkyyttä ja uhkapelistä elämällämme".
Coxonin ero ja hänen esittämänsä riskinarvio korostavat tekoälyn kehitykseen liittyviä kasvavia turvallisuushuolia. Alan asiantuntijat ovat pitkään keskustelleet potentiaalisista riskeistä, jotka liittyvät ihmisälyä merkittävästi ylittäviin tekoälyjärjestelmiin. Näihin riskeihin kuuluvat muun muassa hallinnan menettäminen ja ennakoimattomat seuraukset.
Anthropic ei ole kommentoinut Coxonin eroa tai hänen esittämiään syytöksiä suoraan. Yhtiö on kuitenkin aiemmin todennut sitoutuvansa tekoälyn turvalliseen ja vastuulliseen kehittämiseen. Alan tiivis kilpailu ja nopeasti etenevä kehitys kuitenkin herättävät kysymyksiä siitä, voidaanko turvallisuusstandardeja ylläpitää.