Finanssialan sääntelyelin vaatii tekoälyyn enemmän ihmisvalvontaa

Finanssialan vakausneuvosto (FSB), joka on globaali finanssimarkkinoiden sääntelyn standardien laatimiselin, on kehottanut pankkeja ja muita yrityksiä tehostamaan tekoälyagenttien valvontaa. Uudet vaatimukset sisältyvät tekoälyriskien hallintaa koskeviin lopullisiin ohjeisiin.

FSB:n ohjeet tulevat voimaan aikana, jolloin lainsäätäjät eri maissa pyrkivät rajoittamaan tekoälyyn liittyviä riskejä, kuten kyberhyökkäyksiä, jotka voidaan toteuttaa tekoälyn avulla. Aiemmassa, kesäkuussa julkaistussa luonnoksessa FSB suositteli vahvasti rahoituslaitosten hallituksia huomioimaan ehdotukset ja varoitti, että tekoälyagentit voivat itsenäisesti suunnitella ja suorittaa tehtäviä vähäisellä ihmisvalvonnalla, mikä muodostaa erityisiä haasteita.

Vastauksena saatuihin palautteisiin ja ottaen huomioon tekoälyagenttien lisääntyvän käyttöönoton rahoituslaitoksissa sekä teknologian erityisriskit, lopulliset ohjeet vahvistavat tekoälyagenttien valvontaa koskevia suosituksia. Ohjeiden mukaan korkeamman riskin tekoälysovelluksissa ihmisvalvonnan lisääminen on välttämätöntä. Yritysten on myös määriteltävä riskitason mukaan tilanteet, joissa tekoälyagenttien on saatava ihmishyväksyntä ennen tehtävien jatkamista.

FSB poisti myös aikaisemman ehdotuksen, jossa rahoituslaitoksia kehotettiin pitämään tekoälyä 'virtuaalisena työntekijänä'. Sen sijaan korostetaan, että yritysten on tunnistettava tekoälyagenttien erilainen toimintatapa verrattuna ihmisiin, jotka voivat ymmärtää asetettuja tavoitteita odottamattomilla tavoilla.