AI-genererade "deepfakes" syns allt mer i politiska kampanjer

AI-genererade videor, kända som "deepfakes", har blivit en del av det politiska landskapet och har visat sig i flera nyligen genomförda val. Dessa syntetiskt framställda filmer kan skapa en falsk bild av vad kandidater har sagt eller gjort, trots att flera delstater försöker reglera teknologins användning i valkampanjer.

I ett spänt senatsval i Michigan användes en attackvideo, troligen framställd med AI, för att avbilda den demokratiske kandidaten Abdul El Sayed som en del av en Trojansk häst tillsammans med andra framstående demokrater. Videon visades miljontals gånger på sociala medier. Liknande tekniker användes i Massachusetts där en republikansk kandidat släppte AI-genererade videor, inklusive en Halloween-inspirerad reklamfilm, för att smutskasta sin motståndare.

Detta är en del av en bredare trend där AI används för att misskreditera politiska motståndare. I Texas har en AI-genererad version av en kandidat framförts läsande upp gamla, kontroversiella inlägg från sociala medier. Även i New York har anonymiserade konton använt AI för att skapa syntetiska väljare som kritiserar en vald borgmästare.

Flera delstater har infört lagar för att försöka begränsa användningen av AI i politiska annonser. Lagarna täcker allt från avsiktligt vilseledande AI till digitala kopior skapade utan samtycke. Vissa delstater kräver att användningen av AI i politiska annonser under valperioden deklareras, medan andra förbjuder icke-samtyckta "deepfakes" som syftar till att skada kandidater. Det finns dock ingen specifik federal lagstiftning som reglerar "deepfakes" i val.

Trots lagstiftningen är det fortfarande enkelt att skapa och sprida AI-genererade videor av politiker. Många delstater saknar begränsningar, och det är svårt att förhindra att material sprids eller att friskrivningar förblir synliga. Även om lagarna kan erbjuda rättsliga påföljder, är deras förmåga att påverka valresultat tveksam. Det är också möjligt att allmänheten har blivit mer motståndskraftig mot denna typ av politisk manipulation, oavsett hur tekniskt avancerad den är.