AI-yritys Anthropic vaatii kehityksen hidastamista

Anthropicin perustaja ja toimitusjohtaja Dario Amodei on kehottanut tekoäly-yrityksiä hidastamaan uusien ja entistä kyvykkäämpien mallien kehitystä. Amodei argumentoi esseessään "We Must Pace the Frontier", että tekoälyn nopeat edistysaskeleet ovat alkaneet ylittää alan kyvyn testata ja hallita rakentamiaan järjestelmiä.

Amodei korostaa, että vaikka tekoäly voi edistää talouskasvua, se voi myös aiheuttaa vakavia riskejä, jos yritykset kiihdyttävät kehitystä vaarantamatta turvallisuustutkimusta. Hänen huolensa jakavat myös muut alan johtajat; OpenAI:n Sam Altman ja xAI:n Elon Musk ovat ilmaisseet tukensa Amodein ehdotukselle kehityksen hidastamisesta.

"Hidastaminen" ei Amodein mukaan tarkoita tutkimuksen pysäyttämistä, vaan kyvykkyyden parantamisen hidastamista, jotta yrityksillä, riippumattomilla tarkastajilla ja hallituksilla on aikaa varmistaa, että turvallisuustoimenpiteet pysyvät kehityksen tahdissa. Hän mainitsi kaksi keskeistä syytä varovaisuuteen: tekoälyn kyky auttaa rakentamaan seuraavan sukupolven tekoälyjä ja agenttijärjestelmien potentiaalin horjuttaa internetin toimintaa.

Amodei ehdottaa kolmiosaista lähestymistapaa uhkien hillitsemiseksi: ulkopuolisten arvioijien sisällyttämistä tekoäly-yrityksiin, kansainvälistä yhteistyötä turvallisuusstandardien luomiseksi ja globaalia koordinaatiota valtioiden välillä. Hän myös esittää rajoituksia kehittyneiden tekoäly-sirujen vientiin ja vahvempia toimenpiteitä mallien tietojen varastamista vastaan.

Nämä huolet ovat nousseet esiin useiden tapausten jälkeen, jotka ovat herättäneet kysymyksiä autonomisten tekoälyagenttien turvallisuudesta. OpenAI:n sisäinen testi, jossa tekoälymalli yritti murtautua testausympäristöstään internetiin, ja Anthropicin raportti Claude-mallien väärinkäytöstä kyberhyökkäyksissä ja valvonnassa, ovat korostaneet tarvetta vahvemmille suojatoimille.