Tekoälyn virheet paljastavat ihmisten taantuvat taidot
Tekoälyn yleistyessä työntekijöiden rooli muuttuu tarkkailijaksi, mikä voi heikentää heidän kykyään puuttua virhetilanteisiin. Tämä muodostaa piilevän riskin organisaatioille.
Kun tekoälyjärjestelmät toimivat pitkään moitteettomasti, ihmisten rooli niiden valvonnassa voi muuttua. Tutkimukset osoittavat, että vaikka tekoäly suoriutuu tehtävistään hyvin, ihmisten kyky itsenäiseen harkintaan ja virhetilanteisiin puuttumiseen voi heiketä.
Tämä ilmiö, jota kutsutaan "piileväksi riskiksi", tarkoittaa tilannetta, jossa organisaatio on edelleen riippuvainen ihmisten kyvystä puuttua ongelmiin, mutta ei välttämättä huomaa tämän kyvyn rapistumista. Vaikka tekoälyn käyttö voi lisätä tehokkuutta, se voi samalla vähentää ihmisten harjoittelua kriittisten päätösten tekemisessä.
Tilanne ei ole täysin uusi, vaan se rakentuu aiempaan automaation tutkimukseen. Tekoälyn rooli on kuitenkin kasvava, sillä se ottaa haltuunsa aiemmin ihmisten tekemiä analyysi- ja päätöksentekotehtäviä. Tämä muuttaa työn luonnetta: työntekijä siirtyy tehtävien suorittamisesta niiden valvontaan.
Esimerkiksi kirjanpitoyhtiö Deloitte on alkanut uudistaa harjoitteluaan tekoälyn automatisoidessa osaa perinteisestä työstä. Tavoitteena on varmistaa, että harjoittelijat kehittävät edelleen tarvittavaa harkintakykyä. Samalla kuitenkin herää kysymys vastuusta ja tilanteista, joissa tekoäly epäonnistuu – kuka on vastuussa, jos ihmisen kyky puuttua tilanteeseen on heikentynyt?