Asiantuntija varoittaa: Yrityksillä ei ole hallintaa tekoälyagenttien riskeihin

Boston Consulting Groupin (BCG) johtaja ja hallitseva johtaja Steven Mills on varoittanut yrityksiä, jotka kiihdyttävät tekoälyagenttien käyttöönottoa ilman ymmärrystä siihen liittyvistä riskeistä.

Mills, joka toimii BCG:n tekoälyn etiikan johtajana, ilmaisi huolensa siitä, että yritykset siirtyvät agenttitekoälyyn liian nopeasti ja puutteellisin valvontatoimin. Hän kirjoitti blogissaan, että nopeuden tavoittelu tekoälyssä ilman asianmukaista riskienhallintaa voi johtaa vakaviin järjestelmävirheisiin tai käyttötapauksiin, jotka ovat ristiriidassa tiukasti säänneltyjen alueiden kanssa, joihin organisaatiot eivät ole valmistautuneet.

Monet yritysjohtajat kokevat painetta osoittaa tekoälyn tuottavuushyötyjä, ja he ovat kertoneet Millsille riskienhallintaohjelmiensa olevan "kömpelöitä ja hitaita" eikä kykeneviä pysymään tahdissa tekoälyn eksponentiaalisen kasvun kanssa. Mills korosti, että riskeihin ryhtyvien yritysten panokset ovat korkeat. "Jos hallinto epäonnistuu, kaikki kokeilulla ja varhaisilla voitoilla rakennettu arvo voi murtua yhden ainoan tapauksen vuoksi", hän varoitti.

Tilanne on ajankohtainen, sillä myös muut tekoälyalan ammattilaiset ovat ilmaisseet huolensa. Esimerkiksi Gartner ennusti aiemmin tänä vuonna, että 40 prosenttia yrityksistä joutuu deaktivoida autonomisia tekoälyagenttejaan ensi vuonna, kun hallintapuutteet paljastuvat tuotantotapahtumissa. Tekoälyn väärinkäytön seurauksia on nähty jo ennen agenttiaikaa; vuonna 2023 Federal Trade Commission kielsi Rite Aidia käyttämästä kasvojentunnistusteknologiaa viiden vuoden ajan sen jälkeen, kun tekoälyjärjestelmä oli erehdyksessä tunnistanut tuhansia asiakkaita epäillyiksi varkaiksi.

Mills ehdotti, että yritysten tulisi luoda järjestelmä, joka erottaa matalan riskin käyttötapaukset syvempää tarkastelua vaativista. Suurimman riskin tekoälytuotteet vaativat ihmisen syvempää arviointia. Yritysten tulisi myös varata riittävä budjetti hallinnointiin ja nimetä johtohenkilö vastuulliseksi tekoälyn turvallisuudesta. "Keskeistä on strategisesti lisätä tekoälyn riskejä hallitsevat vaiheistukset ja tarkastukset sekä tehdä siitä prioriteetti. Järjestelmän tulisi tuottaa arvoa vahingoittamisen sijaan."