Tekoälyn oppivat silmukat vaativat uutta hallintamallia

Oululainen Fast Company painottaa, että tekoälyn kehityksen keskeinen yksikkö on siirtymässä yksittäisistä vastauksista yhä enemmän automaattisiin, jatkuvasti oppiviin ja toimiviin silmukoihin. Tämä kehitys vaatii yrityksiltä merkittävää muutosta hallintamalleissaan, sillä silmukat eivät ole vain teknisiä ratkaisuja, vaan ne muodostavat yrityksen sisäisiä hallintorakenteita.

Perinteinen "prompt engineering" keskittyi yksittäisten ohjeiden muotoiluun parempien vastausten saamiseksi. Uusi "loop engineering" sen sijaan suunnittelee järjestelmiä, jotka mahdollistavat tekoälyagenttien itsenäisen työskentelyn, tarkistamisen, uudelleenyrittämisen ja koordinoinnin ilman jatkuvaa ihmisen väliintuloa. Nämä silmukat voivat oppia palautteesta, mukautua ja toistaa toimintojaan, mikä tekee niistä tehokkaita mutta myös potentiaalisesti vaarallisia, jos niiden optimointitavoitteita ei ymmärretä.

Yrityksissä tällaiset silmukat voivat ohjata myyntiä, rekrytointia, hinnoittelua tai asiakaspalvelua. Jokainen silmukka sisältää oletuksen siitä, mikä on tärkeää. Jos esimerkiksi asiakaspalvelusilmukka optimoi ratkaisunopeuden, se voi heikentää asiakasluottamusta. Jos rekrytointisilmukka optimoi henkilöstön pysyvyyden, se voi suosia yhdenmukaisuutta ja rajoittaa monimuotoisuutta. Näihin ongelmiin ei tarvita pahantahtoista tekoälyä, vaan huonosti hallittuja silmukoita.

Fast Companyn mukaan "ihminen silmukassa" ei enää riitä, ellei määritellä tarkasti henkilön roolia, auktoriteettia ja vastuuta. Tekoälyn hallinnan on oltava jatkuvaa, ei vain kertaluonteinen tarkastus. Tämä edellyttää uusien viitekehysten, kuten NIST AI Risk Management Frameworkin tai EU:n tekoälyasetuksen, noudattamista, jotka korostavat jatkuvaa seurantaa ja riskienhallintaa.

Johtoryhmien on ymmärrettävä tekoälysilmukoiden toimintaperiaatteet ja mahdolliset vaikutukset yrityksen eri osiin. Tärkeintä ei ole, pystyykö tekoäly toimimaan itsenäisesti, vaan pystyykö yritys hallitsemaan sitä, mitä tekoäly oppii toimiessaan. Tavoitteena on varmistaa yrityksen sisäinen johdonmukaisuus, kun eri silmukat saattavat paikallisesti optimoidessaan vetää yritystä erilleen.