Tutkimus: Tekoälychatbotit voivat rajoittaa sananvapautta globaalisti

Meta Oversight Boardin torstaina julkaistu tutkimus osoittaa, että merkittävät tekoälyjärjestelmät, jopa Yhdysvalloissa kehitetyt, ovat taipuvaisempia kieltäytymään poliittisten johtajien tai hallitusten kritisoimisesta. Raportti herättää huolta siitä, että suuret kielimallit, jotka pyörittävät chatbotteja, voivat vahvistaa ja levittää hallitusten vaikutusvaltaa verkkoviestintään globaalisti.

Tutkimuksessa testattiin kymmenempää kaupallista suurta kielimallia, mukaan lukien Metan, Anthropicin ja OpenAI:n kehittämiä. Kun malleja pyydettiin luomaan materiaalia, joka kritisoi Yhdysvaltojen, Ison-Britannian tai Chilen kaltaisten maiden johtajia tai hallituksia, ne usein suostuivat. Sen sijaan pyynnöt kritisoida esimerkiksi Kiinan, Saudi-Arabian tai Thaimaan johtajia tai hallituksia johtivat usein kieltäytymiseen.

Raportin mukaan mallit olivat huomattavasti todennäköisemmin halukkaita tuottamaan poliittista kritiikkiä "vapaammissa" maissa verrattuna maihin, joissa kritiikkiä rajoitetaan ja rangaistaan. Tämä viittaa siihen, että tekoälymallit heijastavat ja ulottavat sananvapausrajoituksia maiden rajojen ulkopuolelle, mikä voisi rajoittaa potentiaalisten mielenosoittajien mahdollisuuksia ilmaista mielipiteitään ulkomaisista epäkohdista.

Tutkimuksen tekijät eivät pystyneet varmuudella määrittämään syitä tähän käyttäytymiseen, mutta he ehdottivat, että taustalla voi olla tekoälymallien koulutusdatassa piileviä puolueellisuuksia tai yritysten pyrkimys minimoida riskejä ja vastuita. Lisäksi erillinen yhdysvaltalaisten tutkijoiden raportti havaitsi, että Yhdysvalloissa kehitetyt tekoälymallit voivat olla alttiita ulkomaisille vaikutteille, kun ne koulutetaan hallitusten muokkaamalla ei-englanninkielisellä datalla.