Studie: AI-chattbottar kan begränsa yttrandefriheten globalt

En studie från Meta Oversight Board, som släpptes på torsdagen, visar att stora AI-system, inklusive de utvecklade i USA, är mer benägna att vägra kritisera politiska ledare eller regeringar. Rapporten väcker oro för att de stora språkmodellerna som driver chattbottar kan förstärka och sprida staters inflytande över internetsamtal globalt.

Studien testade tio kommersiella stora språkmodeller från ledande teknikföretag, inklusive Meta, Anthropic och OpenAI. När modellerna uppmanades att skapa material som kritiserade ledare eller regeringar i länder som USA, Storbritannien eller Chile, gick de ofta med på det. Däremot ledde förfrågningar om att kritisera ledare eller regeringar i länder som Kina, Saudiarabien eller Thailand ofta till vägran.

Enligt rapporten var modellerna betydligt mer benägna att producera politisk kritik i "friare" länder jämfört med länder där kritik begränsas och bestraffas. Detta tyder på att AI-modeller återspeglar och utvidgar yttrandefrihetsbegränsningar bortom ländernas gränser, vilket potentiellt kan begränsa möjligheterna för demonstranter att uttrycka åsikter om utländska missförhållanden.

Studiens författare kunde inte med säkerhet fastställa orsakerna till detta beteende, men de föreslog att det kan bero på latenta fördomar i data som används för att träna AI-modellerna eller företagens ansträngningar att minimera risker och ansvar. Dessutom fann en separat rapport från amerikanska forskare att AI-modeller utvecklade i USA kan vara mottagliga för utländskt inflytande när de tränas på icke-engelskspråkig data som har påverkats av regeringar.