Chatbotter argumenterar mot valkonspirationsteorier men illustrerar dem sedan

En ny studie från Brennan Center for Justice har identifierat motsägelser i hur AI-chattbottar hanterar information relaterad till val. Undersökningen visade att flera av de mest använda AI-chattbottarna, inklusive ChatGPT, Gemini, Grok, Claude och Perplexity, konsekvent motsatte sig fem vanliga konspirationsteorier kring val som dykt upp i samband med ifrågasättanden av valresultat.

Forskarna presenterade påståenden som "Icke-medborgare röstar i stor utsträckning" och "Röstmaskiner manipuleras" för chattbottarna. Alla chattbottar vägrade att acceptera dessa påståenden, även efter upprepade försök. Trots detta konstaterade studien att nästan hälften av svaren innehöll felaktigheter eller felaktiga källhänvisningar, och var tredje svar innehöll ett faktumfel, en trasig länk eller en vilseledande källhänvisning.

Studien avslöjade dock också en oroande aspekt: samma AI-företag som utvecklar dessa chattbottar tillhandahåller också verktyg som kan skapa bilder och videor. Plattformar som ChatGPT, Gemini, Grok och Meta gick med på att på begäran generera bilder som stödde eller illustrerade konspirationsteorier och annan desinformation. Till exempel skapades bilder av en person som samlade in poströster.

Sådan AI-genererad media har redan börjat påverka valen i USA. I Texas primärval användes exempelvis en AI-genererad video som anklagade en rival för att söka medieuppmärksamhet. Georgia och Massachusetts har också sett exempel på AI-genererade deepfake-videor där politiker framställts i negativ dager, inklusive som vampyrer.

Dessa fynd belyser AI:s dubbla natur när det gäller valintegritet och den allmänna debatten. Medan AI kan hjälpa till att bekämpa desinformation, kan dess kreativa förmågor också förstärka den, vilket skapar nya utmaningar för spridningen av tillförlitlig information.