Tutkimus: Tekoälymallit, kuten ChatGPT, suosivat länsimaisia arvoja
Uusi tutkimus osoittaa, että suuret kielimallit, kuten ChatGPT, arvioivat virheellisesti ei-länsimaisten kansojen moraalisia arvoja ja painottavat järjestelmällisesti länsimaisia näkökulmia.
Tuore tutkimus, joka julkaistiin Proceedings of the National Academy of Sciences -lehdessä, paljastaa, että tekoälymallit, mukaan lukien OpenAI:n ChatGPT, ovat taipuvaisia painottamaan länsimaisia moraalikäsityksiä eivätkä välttämättä edusta globaalia arvojakaumaa.
Mallien, kuten GPT-3.5, GPT-4 ja GPT-4o, kykyä arvioida 48 maan asukkaiden moraalikäsityksiä verrattiin yli 90 000 ihmisen otokseen. Tutkimuksessa käytettiin moraalisten perusteiden kyselylomaketta, joka mittasi kuutta arvoa: huolenpito, tasa-arvo, oikeudenmukaisuus, uskollisuus, auktoriteetti ja puhtaus. Mallit arvioivat jokaisen maan "keskikansalaisen" moraalikäsityksiä. Tulokset osoittivat, että tekoälymallit painottivat systemaattisesti länsimaisille yhteiskunnille tyypillisiä arvoja, kuten huolenpitoa, ja jättivät vähemmälle huomiolle esimerkiksi puhtautta korostavat arvot, jotka ovat tärkeämpiä monissa ei-länsimaisissa kulttuureissa.
Lisäksi mallit yliarvioivat länsimaiden, kuten Yhdysvaltojen ja Australian, laajoja moraalikäsityksiä ja aliarvioivat useiden ei-länsimaiden, kuten Marokon ja Nigerian, näkökulmia. Tämä osoittaa selvää taipumusta mallien vastaavuuteen länsimaisten moraalisten arvojen kanssa, riippumatta siitä, mistä maasta ne pyydettiin vastaamaan.
Tutkijat varoittavat, että generatiivisen tekoälyn yleistyessä koulutuksessa, terapiassa ja jopa politiikassa tällainen kulttuurinen vinouma voi johtaa merkittäviin väärinymmärryksiin ja kulttuurisiin virheisiin. Jos tekoäly olettaa koko maailman noudattavan länsimaisia arvoja, se voi vahvistaa olemassa olevia kulttuurisia sokeita pisteitä ja luoda uusia epätasa-arvoisuuksia globaalissa käytössä.