CRIF ja UNIMORE kehittävät tekoälypohjaista päätöksenteon läpinäkyvyyttä
Luottotietoyhtiö CRIF ja Modenan ja Reggio Emilian yliopisto ovat kehittäneet menetelmiä, joilla tekoälyn tekemät luottopäätökset muuttuvat ymmärrettäviksi ja perusteltaviksi.
CRIF ja Modenan ja Reggio Emilian yliopiston (UNIMORE) Data and Text Analytics Lab ovat julkistaneet tutkimusyhteistyön, jonka tavoitteena on lisätä tekoälymallien läpinäkyvyyttä rahoitusalan luottopäätöksissä. Hankkeessa keskitytään niin sanottuihin vastafaktuaalisiin selityksiin (counterfactual explanations), jotka auttavat ymmärtämään, mitkä muutokset syötetiedoissa muuttaisivat mallin tekemää päätöstä.
Käytännön tasolla tämä tarkoittaa, että jos tekoäly hylkää lainahakemuksen, järjestelmä voi tarjota hakijalle konkreettisia muutosehdotuksia, kuten lainasumman pienentämistä tai maksuajan muuttamista, päätöksen lopputuloksen parantamiseksi. Tutkimustulokset on integroitu CRIF:n omaan ORCHESTRA-päätöksentekoalustaan.
Projektin tarkoituksena on vastata tiukentuviin sääntelyvaatimuksiin ja parantaa tekoälyn käytön hallittavuutta. Yhteistyön myötä CRIF pyrkii tarjoamaan rahoituslaitoksille työkaluja, joilla ne voivat yhdistää automaattisen riskinarvioinnin ja ihmisen tekemän valvontatyön tehokkaasti ja läpinäkyvästi.