AI utmanar och hjälper cybersäkerhetsexperter vid Black Hat

Vid Black Hat-konferensen i Las Vegas ställdes cybersäkerhetsexperter inför en verklighet där artificiell intelligens (AI) spelade en dubbel roll: som ett värdefullt verktyg för att identifiera hot och som en källa till nya sårbarheter. Nätverksdriftscentralens (NOC) personal använde AI för att effektivisera hotbedömningen.

AI användes för att upptäcka misstänkt nätverksbeteende och skilja det från normal aktivitet. James Pope, NOC-administratör och säkerhetsproduktsforskare vid Corelight, beskrev hur varningar kombinerades till detektioner och sedan vidare till "agentbaserad triagering". Detta system hjälpte till att automatiskt hantera en stor del av de identifierade fallen.

Under konferensen observerades 8 892 nätverksincidenter, varav 2 593 ledde till åtgärder. Tack vare AI kunde 2 543 av dessa hanteras automatiskt, vilket minskade behovet av manuell intervention.

Samtidigt belyste konferensen riskerna med AI-genererad kod. Många applikationer saknade grundläggande säkerhetsfunktioner, såsom kryptering för dataöverföring (TLS), vilket lämnade informationen oskyddad. Denna brist, kallad "vibe coding", demokratiserar mjukvaruutvecklingen men introducerar betydande risker.

Pope uppmanade deltagarna att analysera sina egna applikationer hemma med verktyg som Wireshark. Han betonade att även om AI kan förbättra nätverkssäkerheten, kräver AI-genererad kod noggrann granskning. NOC-teamet arbetade också med att informera användarna om riskerna med osäkra applikationer utöver själva nätverkshoten.