Hackare kan använda AI-verktyg för att bygga botnät
Nio populära AI-verktyg har visat sig kunna användas för att konstruera storskaliga botnät. Detta nya hot utnyttjar sårbarheter kopplade till 'prompt injection', vilket möjliggör införandet av skadliga kommandon.
Hackare kan utnyttja nio populära AI-verktyg för att bygga upp massiva botnät, enligt en ny undersökning. Detta nya attackvektori utnyttjar prompt injection-sårbarheter, som tillåter införandet av skadliga instruktioner direkt i AI-modeller.
Traditionellt har prompt injection-attacker varit av 'push'-typ, där varje potentiellt offer riktas individuellt. Till exempel kan en skadlig prompt injiceras i ett enskilt e-postmeddelande eller en kalenderinbjudan. Skalan av en sådan attack är begränsad eftersom den kräver att attacken skickas ('pushas') till varje specifik måltavla, vilket hindrar storskaliga exploateringar som påverkar internet.
Forskare har dock identifierat ett sätt att kringgå dessa begränsningar genom att utnyttja populära AI-verktyg. Dessa verktyg kan bearbeta stora mängder data och följa givna instruktioner, vilket gör dem till ideella vapen för att skapa storskaliga botnät. Stora språkmodeller har svårt att tillförlitligt skilja mellan legitima instruktioner från användare och skadliga kommandon som matas in av angripare.
Utvecklare försöker bygga skyddsmekanismer för att mildra dessa sårbarheter, men grundorsaken – modellernas oförmåga att skilja mellan betrodda och otillförlitliga källor – är ännu inte löst. Den nya upptäckten belyser säkerhetsutmaningarna med AI-system och behovet av att utveckla mer robusta skydd.