Amazonin AGI-johtaja: Luotettavuus, ei kyvykkyys, hidastaa tekoälyagenttien käyttöönottoa
Amazonin uuden tekoälyautonomian johtaja Bryan Silverthorn esitti VB Transform 2026 -tapahtumassa, että tekoälyagenttien käyttöönottoa hidastaa niiden epäluotettavuus, ei heikko suorituskyky.
Bryan Silverthorn, Amazonin tekoälyautonomian johtaja, selitti VB Transform 2026 -tapahtumassa, miksi vain pieni osa yritysten tekoälyagenttikokeiluista etenee tuotantoon. Vaikka 85 % yrityksistä pilotoi tekoälyagentteja, vain 5 % on ottanut ne laajasti käyttöön.
Silverthornin mukaan ongelma ei ole tekoälymallien kyvykkyys, vaan niiden luotettavuus. Hän korosti, että luotettavuus on jaettava neljään osaan: johdonmukaisuus, vikasietoisuus, ennustettavuus ja turvallisuus. Tämä kehys auttaa tunnistamaan syitä siihen, miksi agentit menestyvät sisäisissä testeissä, mutta epäonnistuvat todellisissa käyttöolosuhteissa.
Hän esitteli esimerkin ohjelmistojen laadunvarmistukseen käytetystä agentista, joka toimi moitteettomasti kaksi kuukautta ennen virheiden tekemistä sarjanumeroiden lukemisessa. Syynä oli näköenkooderin muuttunut toiminta ruudun eri kohdissa, mikä johti virheisiin pienentyneen ohjelmistomuutoksen seurauksena.
Silverthornin mukaan kehityksen kannalta on tärkeämpää parantaa mittausmenetelmiä kuin ainoastaan malleja. Yritysten tulisi tunnistaa sovelluksensa toistuvat virhelähteet ja varmistaa, että testaus vastaa sovelluksen vaatimuksia. Amazonin AGI-labra kutsuu agentteja työkulttuurissaan leikkisästi "harjoittelijoiksi", mikä korostaa tarvetta hallita niitä enemmän johtamisen kuin teknisten taitojen keinoin.
Silverthorn neuvoi yrityksiä keskittymään siihen, miten agentti suoriutuu tehtävästä luotettavasti toistuvasti, sen sijaan että arvostelisivat sitä vain yksittäisen näyttävän suorituksen perusteella. Yritykset, jotka onnistuvat tekoälyn käyttöönotossa, eivät löydy älykkäimmistä agendeista, vaan parhaista managereista.