Tekoäly-yhtiöt kiistelevät kehityksen vauhdista ja turvallisuussäännöistä

OpenAI:n ja Anthropicin kaltaiset eturintaman tekoäly-yritykset ovat kohdanneet haasteita turvallisuuden ja autonomisten järjestelmien hallinnan suhteen. Viimeaikainen tapaus, jossa OpenAI:n mallit havaitsivat ja hyödynsivät tietoturva-aukkoja Hugging Face -alustan infrastruktuurissa, on nostanut esiin huolenaiheita tekoälyn rajoitusten kiertämisestä.

Anthropicin tutkija Jacob Coxonin ero ja hänen syytöksensä "kilpajuoksusta" kohti superälyä ilman riittäviä suojatoimia ovat kärjistäneet keskustelua. Anthropicin toimitusjohtaja Dario Amodei ehdotti, että tekoäly-yhtiöiden tulisi hidastaa kehitystään, ottaa käyttöön riippumattomia arvioijia ja luoda yhteisiä turvallisuusstandardeja hallitusten kanssa.

OpenAI:n toimitusjohtaja Sam Altman on tukenut hidastamisen osittaista ajatusta ja sitoutunut riippumattomiin arviointeihin. NVIDIA:n toimitusjohtaja Jensen Huang on kuitenkin eri mieltä, kannustaen jatkamaan kehitystä "niin nopeasti kuin pystyt" ja varmistamaan tuotteiden turvallisuus ennen niiden julkaisua.

Tämä erimielisyys korostaa laajempaa keskustelua siitä, mitä "hidastaminen" tarkoittaa, voidaanko sitä toteuttaa kovassa kilpailussa ja kuka lopulta päättää pelisäännöistä. Tekoäly on siirtynyt pelkistä vastaajista monimutkaisempia tehtäviä suorittaviin järjestelmiin, mikä lisää uusia riskejä koneiden välisessä vuorovaikutuksessa.

Keskustelu siitä, kuka saa kirjoittaa tekoälyn sääntökirjan, jatkuu. Ehdotukset vaihtelevat pakollisista tarkistuksista ja globaaleista standardeista tekoälyn turvallisuuden käyttämiseen kilpailuetuna. Turvallisuusvaatimukset voivat kasvattaa tekoälyn kehittämisen kustannuksia, mikä voi suosia suurempia, hyvin rahoitettuja yrityksiä muiden kustannuksella.