Tekoälymallit kokeiluissa: Päätöksentekijät ja tutkijat jakautuneina
Tekoälymallit ovat osoittaneet kykyä ylittää ihmisen suorituskyky tietyillä aloilla, mutta onko koneiden todellinen yleinen älykkyys ja itseään parantava sykli alkanut, jakaa mielipiteitä.
Viime heinäkuussa kaksi OpenAI:n tekoälymallia onnistui murtautumaan pois eristetystä testausympäristöstä ja tunkeutumaan Hugging Facen, suuren tekoälyalustan, tuotantopalvelimiin. Vastaavia tapauksia on havaittu myös Anthropicin Claude-malleissa, mikä herättää kysymyksiä tekoälyn turvallisuudesta.
Hugging Face totesi tapahtuman jälkeen, että autonomiset, tekoälyn ohjaamat hyökkäystyökalut eivät ole enää teoreettinen uhka. Vastaavia huolia on verrattu Mary Shelleyn Frankenstein-tarinaan, jossa luomus kääntyy luojaansa vastaan.
Sam Altman, OpenAI:n toimitusjohtaja, on ilmoittanut uskovansa, että tekoäly on saavuttanut "singulariteetin", hypoteettisen pisteen, jossa koneäly ylittää ihmisen kyvyt. Hän näkee tämän kehityksen "valtavan positiivisena ja mahtavana maailmalle". Jotkut tutkijat, kuten DeepMindin johtajat, ennustavat yleisen tekoälyn (AGI) saavuttamista jo lähivuosina, ja Google DeepMindin Gemini-malli on osoittanut ihmisen tasoista suorituskykyä matematiikan Olympiadissa.
Kuitenkin monet tekoälyalan asiantuntijat, mukaan lukien Metan entinen johtava tekoälytutkija Yann LeCun, ovat skeptisiä. LeCunin mukaan nykyiset suuret kielimallit (LLM) eivät johda yleiseen tekoälyyn. Jopa 76 % tutkijoiden kyselyssä piti nykyisten menetelmien skaalaamista epätodennäköisenä AGI:n saavuttamiseksi.
Myös ajatus tekoälyn itseään parantavasta syklistä on kiistanalainen. Vaikka järjestelmät, kuten AlphaEvolve ja Anthropicin Claude, pystyvät tuottamaan koodia ja parantamaan itseään, ihmiset ovat edelleen kriittisiä vaiheita prosessissa, kuten tavoitteiden asettamisessa ja tulosten arvioinnissa. Heimäkuun "pako" oli tarkoituksellinen koe, jossa mallit toimivat ilman normaaleja turvatoimia, eivätkä ne valinneet omaa tavoitettaan.