Luotettavuusorganisaatiot antavat opetuksia tekoälyn aikakaudella
Johtajien tulee rakentaa luottamusta ja vastuullisuutta prosesseihin alusta alkaen. Virheet tekoälyn käytössä voivat olla vaarallisia, jos niihin ei reagoida nopeasti.
Inc. Magazine -julkaisun julkaisema artikkeli korostaa korkean luotettavuuden organisaatioiden (High-Reliability Organizations, HRO) merkitystä tekoälyn (AI) aikakaudella. Artikkeli, jonka on kirjoittanut Inc. Median toimitusjohtaja Angela Adams, käsittelee sairaalan radiologian osastolla sattunutta tapausta, jossa tekoälytyökalu oli konfigurointivirheen vuoksi näkyvissä ensiapuhenkilökunnalle. Lääkärit alkoivat luottaa tekoälyn alustaviin lukemiin, vaikka niitä ei ollut radiologi tarkistanut, mikä johti merkittäviin viiveisiin muiden potilaiden tutkimuksissa.
Tapaus paljasti, että tekoäly toimi suunnitellusti, mutta ihmisten luomat prosessit sen ympärillä epäonnistuivat. Kriittinen puute oli selkeiden ohjeiden puuttuminen siitä, kuka saa luottaa tekoälyn tuottamaan tietoon ja millä valvonnalla. Adamsin mukaan tämä on tekoälyaikakauden keskeisin riski: organisaatiot ottavat tekoälyä käyttöön nopeammin kuin rakentavat tarvittavia luottamus- ja vastuullisuusrakenteita.
Adams, joka johtaa terveydenhuollon tekoäly-yritystä ja on entinen teho-osaston sairaanhoitaja, vertaa tilannetta korkean luotettavuuden organisaatioihin, joita on tutkittu lentoliikenteen, ydinvoiman ja ensihoidon kaltaisilla korkean riskin aloilla. Nämä organisaatiot ehkäisevät katastrofaalisia virheitä keskittymällä systemaattisesti epäonnistumisten mahdollisuuksiin ja varhaisiin varoituksiin, mikä mahdollistaa nopean ja päättäväisen toiminnan paineen alla.
Artikkeli kritisoi yrityksiä, jotka lähestyvät tekoälyä päinvastaisessa järjestyksessä. Turvallisuus ja hallintotavat nähdään usein jälkitoimenpiteenä, kun itse työkalu on jo käytössä. Esimerkkinä mainitaan Klarna, jonka tekoälyassistentti oli raportoitu korvaavan satoja asiakaspalvelijoita, mutta myöhemmin yritys joutui palauttamaan ihmistyövoimaa laadun heikkenemisen vuoksi. Adams korostaa, että pelkät nopeus- ja säästömittarit eivät riitä, vaan myös asiakaskokemuksen laatu ja ihmisen rooli ovat tärkeitä.
Yhteenvetona, Adams kehottaa johtajia ymmärtämään, että luottamus tekoälyn tuloksiin syntyy niissä ihmisissä, jotka joutuvat toimimaan sen perusteella. Korkean luotettavuuden organisaatioiden periaatteiden, kuten vastuullisuuden ja virheiden ennakoinnin, soveltaminen tekoälyn käyttöönottoon voi auttaa ehkäisemään riskejä ja varmistamaan teknologian turvallisen ja tehokkaan hyödyntämisen.