Microsoft slog till mot AI-assisterad plattform som kapade 12 000 konton

Microsoft meddelade på tisdagen att de lett en branschövergripande insats som slog ut EvilTokens, en prenumerationsbaserad plattform för bedrägeri. Plattformen använde artificiell intelligens för att kompromettera minst 12 000 Microsoft-konton under loppet av några månader.

EvilTokens lanserades via en Telegram-kanal i februari och krävde en initial avgift på 1 500 dollar, följt av en löpande månadsavgift på 500 dollar. Plattformen tillhandahöll en tjänst för att effektivisera de flesta steg som krävs för att systematiskt kompromettera e-postkonton. Därefter hjälpte plattformen användare att analysera inkorgar, identifiera måltavlor med störst potentiell utdelning, och utarbeta uppföljningsmejl med trovärdiga påhitt för att lura företagsanställda att överföra pengar till angriparkontrollerade konton.

"Medan EvilTokens hjälpte cyberkriminella att få tillgång till e-postkonton, fanns i centrum för tjänsten en AI-liknande chatbot som kunde analysera ett offers inkorg och hjälpa kriminella att identifiera betrodda relationer, betalningsauktorisationer och känsliga ansvarsområden, samt andra omständigheter där bedrägeri med störst sannolikhet skulle lyckas", uppgav Microsoft.

Enligt Microsoft kunde plattformen även rekommendera bedrägeristrategier, inklusive att utarbeta meddelanden som utgav sig för att vara från betrodda kontakter. Syftet var att lura offren att agera snabbt utan att tänka efter. Detta är ett av de mest betydande fallen som avslöjat missbruk av AI inom datainsamlingsplattformar.