Kiina ja Eurooppa: Tekoälyn sääntely ja sosiaaliset pisteytysjärjestelmät

Kiinan sosiaalisen luottoluokituksen järjestelmä, jossa kansalaisten käyttäytymistä arvioidaan ja seurataan tekoälyn avulla, herättää keskustelua Euroopassa. Järjestelmässä pisteitä lisätään tai vähennetään käyttäytymisen perusteella, mikä voi vaikuttaa esimerkiksi matkustusmahdollisuuksiin tai lasten koulutuspaikkoihin.

Vaikka järjestelmä tuntuu kaukaiselta ja eurooppalaisen ihmisoikeusperustamme vuoksi turvalliseksi, samankaltaisia tekoälyn sovelluksia on jo käytössä myös Euroopassa. Muihin kuuluvat Unkarin, Kreikan ja Latvian rajaturvallisuudessa käytettävät virtuaaliset virkailijat, Suomessa työnhakijoiden sähköpostien analysointi luonneanalyysien luomiseksi, Italian terveydenhuollon päätöksenteon tukena käytettävät koneet sekä Tanskan järjestelmät syrjäytettyjen lasten tunnistamiseksi.

Nämä sovellukset korostavat tarvetta pohtia tekoälyn eettisiä perusteita ja mahdollisia lainsäädännöllisiä rajoituksia. Pelkästään valtion elimet eivät hyödynnä tekoälyä, vaan myös yksityiset yritykset, kuten luottotietotoimisto Schufa Saksassa, käyttävät pistejärjestelmiä lainanmyöntöpäätöksissään, joiden laskentaperusteita ei kerrota julkisesti.

Saksan kuluttajaneuvoston suosituksissa on korostettu läpinäkyvyyden tarvetta kaikissa pisteytysjärjestelmissä. Tavoitteena on estää syrjintä ja petokset, ja ehdotetaan, että kuluttajien tulisi voida saada tietoa siitä, miten pisteitä jakautuu eri väestöryhmien kesken. Tämä voisi paljastaa algoritmien mahdolliset syrjivät vaikutukset. Aiheesta käydään aktiivista keskustelua Euroopan laajuisesti.