Yritykset lisäävät automaatiota AI-virheiden jälkeenkin
Vaikka tekoälyvirheet harmittavat, yritykset lisäävät automaatiota ja vähentävät ihmisvalvontaa AI-käyttöönotoissa. Uusi tutkimus osoittaa ristiriitaa luottamuksen ja todellisuuden välillä.
Uusi VentureBeat Intelligence -tutkimus paljastaa, että yritykset, jotka ovat kohdanneet virheitä tekoälyjärjestelmiensä kanssa tuotannossa, ovat nopeuttamassa ihmisten roolin vähentämistä käyttöönotopäätöksissä. Tämä tapahtuu samaan aikaan, kun luottamus automatisoituihin arviointiprosesseihin kasvaa.
Tutkimuksessa 108 yrityksestä 13 % ilmoitti luottavansa automatisoituihin arviointeihin heinäkuussa, mikä on huomattava kasvu edellisen kuukauden 5 %:sta. Samanaikaisesti huoli todellisten tulosten ja testien välisestä epäsuhdasta laski 10 prosenttiyksikköä 19 %:iin. Tästä huolimatta 49 % yrityksistä raportoi, että tekoälyominaisuus, joka oli läpäissyt testit, aiheutti asiakkaille näkyvän ongelman – määrä pysyi lähes samana kuin edellisessä kuussa.
Tilanne on ristiriitainen: yritykset, joilla on ollut testien läpäisseiden AI-järjestelmien tuottamia ongelmia, ovat todennäköisempiä epäilemään automaattista tarkistusprosessia. Tästä huolimatta 85 % näistä "palaneista" yrityksistä edistää automaattista käyttöönottoa ilman ihmisen hyväksyntää, kun taas vain 61 % yrityksistä, joilla ei ole ollut vastaavia ongelmia, tekee niin. Tämä viittaa siihen, että yritykset lisäävät automaatiota vastauksena virheisiin, mahdollisesti parantaakseen käyttöönoton kypsyyttä.
Tutkimuksen mukaan yritykset, joilla on ollut virheitä, siirtyvät nopeammin kohti mallia, jossa käyttöönotot tapahtuvat ilman ihmisen hyväksyntää. Vain 11 % näistä yrityksistä vastustaa täysin automaattista käyttöönottoa tulevaisuudessa, kun taas vastaava luku on 24 % niistä, joilla ei ole ollut ongelmia. Tämä kehitys osoittaa selkeää suuntausta kohti lisääntynyttä autonomiaa tekoälyjärjestelmissä.