Inc. Magazine: AI-agentien testaus ja hallinnointi ennen käyttöönottoa

Inc. Magazine on nostanut esiin HR-johtaja Tina Newbillin kokemukset tekoälyagenttien kehittämisestä ja niiden tietoturvan varmistamisesta. Newbillin kehittämä työntekijöiden yhteydenottoja käsittelevä tekoälyagentti on suunniteltu suodattamaan ja reitittämään tietoa, mutta sen toimintaa on rajoitettu siten, ettei se tee itsenäisiä ratkaisuja arkaluonteisissa asioissa, kuten syrjintä- tai petostapauksissa.

Kehitysprosessin aikana Newbill painotti agentin ”rikkomista” eli järjestelmällistä haavoittuvuuksien etsintää ennen varsinaista käyttöönottoa. Tämä käytäntö heijastaa kasvavaa tarvetta hallinnoidulle tekoälykehitykselle, jossa teknologian rajat määritellään tarkasti jo suunnitteluvaiheessa.

IBM:n vuoden 2025 raportin mukaan 13 prosenttia organisaatioista on kohdannut tekoälyjärjestelmiin liittyviä tietomurtoja, ja valtaosalta näistä puuttuivat asianmukaiset pääsynvalvonnan mekanismit. Newbillin malli korostaakin, että yritysten on rajoitettava tekoälyn pääsyä vain välttämättömiin tietolähteisiin tietoturvariskien minimoimiseksi.