Tekoälyn turvallisuuden arvioijat nousevat esiin
Uudet tekoälymallien arviointiin keskittyvät organisaatiot saavat entistä enemmän vastuuta tekoälyalan kasvaessa. Puutteellinen sääntely ajaa riippumattomien tahojen roolia.
Pieni joukko riippumattomia arviointiorganisaatioita on noussut keskeiseen asemaan tekoälyalalla, joka on arvoltaan useita biljoonia dollareita. Nämä organisaatiot, kuten METR ja Transluce, toimivat kasvavassa roolissa tekoälymallien turvallisuuden ja luotettavuuden varmistamisessa, erityisesti kun liittovaltion sääntelykehitys on hidasta.
Nämä arviointiyritykset, jotka usein toimivat voittoa tavoittelemattomina yhdistyksinä, pyrkivät arvioimaan tekoälymallien kyvykkyyksiä ja riskejä. Niiden tehtävänä on myös tuoda esiin tapauksia, joissa teknologia käyttäytyy haitallisesti. Heidän toimintansa tärkeys korostuu entisestään, kun useat suuret tekoäly-yritykset, kuten Anthropic ja OpenAI, etsivät ulkopuolista tukea malliensa turvallisuuden varmistamiseksi.
Sekä Anthropicin toimitusjohtaja Dario Amodei että OpenAI:n johtohahmot ovat ilmaisseet tukensa riippumattomien arvioijien käyttöönotolle. Presidentti Donald Trump on myös kannustanut yrityksiä yhteistyöhön ulkopuolisten arvioijien kanssa osana vapaaehtoista sopimusta. Keskeisiä kysymyksiä ovat kuitenkin edelleen rahoitusmallit ja arvioijien pääsy tietoihin.
Asiantuntijat, kuten Brown Universityn tietojenkäsittelytieteen professori Suresh Venkatasubramanian, ovat nostaneet esiin huolen rahoituksen riittävyydestä. Hän korosti, että on varmistettava kestävät liiketoimintamallit näille organisaatioille, jotta ne voivat tehokkaasti hoitaa tehtäviään ja ylläpitää tarvittavaa ekosysteemiä.