Forskning: AI-modeller som ChatGPT prioriterar västerländska värderingar

En ny studie publicerad i Proceedings of the National Academy of Sciences visar att AI-modeller, inklusive OpenAI:s ChatGPT, tenderar att prioritera västerländska moraliska uppfattningar och inte nödvändigtvis representerar en global värdefördelning.

Modeller som GPT-3.5, GPT-4 och GPT-4o testades för deras förmåga att bedöma moraliska normer i 48 länder, och resultaten jämfördes med ett globalt urval av över 90 000 människor. Studien använde ett frågeformulär om moraliska grunder som mätte sex värderingar: omsorg, rättvisa, proportionerlighet, lojalitet, auktoritet och renhet.

Modellerna fick i uppgift att svara som en "genomsnittlig medborgare" från varje land. Resultaten visade att AI-modellerna systematiskt betonade värderingar som är typiska för västerländska samhällen, såsom omsorg, och gav mindre vikt åt värderingar som renhet, vilka är viktigare i många icke-västerländska kulturer.

Dessutom överskattade modellerna de breda moraliska perspektiven i västländer som USA och Australien, samtidigt som de underskattade perspektiven i flera icke-västerländska länder som Marocko och Nigeria. Detta indikerar en tydlig anpassning till västerländska moraliska värderingar oavsett vilket land de ombads svara för.

Forskarna varnar för att i takt med att generativ AI blir allt vanligare inom utbildning, terapi och till och med policybeslut, kan denna kulturella partiskhet leda till betydande missförstånd och kulturella misstag. Om AI antar att hela världen följer västerländska värderingar, kan det förstärka befintliga kulturella blinda fläckar och skapa ny ojämlikhet i global användning.