AI-hackare blir snabbare, staten kan vara oförberedd
Nya AI-system kan hitta och utnyttja sårbarheter snabbare än mänskliga hackare. USA:s regering överväger att begränsa offentliggörandet av dessa modeller.
En ny generation av agentbaserade AI-system, inklusive Anthropic's Mythos och OpenAI's GPT 5.6, hotar cybersäkerheten i grunden då de kan identifiera och exploatera sårbarheter i datasystem betydligt snabbare än mänskliga aktörer. Teknologins potential har fått USA:s regering att undersöka möjligheter att begränsa eller helt stoppa den offentliga releasen av dessa modeller.
Förberedelserna inom den amerikanska administrationen för att säkra statens datorresurser ifrågasätts. Minskningar av anslag och personalstyrkor vid Central Intelligence Security Agency (CISA) och General Services Administration (GSA), som hanterar Federal Risk and Authorization Management Program (FedRAMP), har skett. Båda myndigheterna har dock påbörjat arbetet med att adressera riskerna, CISA har utfärdat riktlinjer och FedRAMP har reviderat sina säkerhetskrav för molntjänstleverantörer.
Statliga system, som hanterar stora mängder kritisk information och känsliga data, utgör primära mål för cyberattacker. Agentbaserad AI kan möjliggöra storskaliga attacker som eliminerar tidspress och den kompetens som tidigare krävdes, vilket gör enklare attacker mer skadliga. Dessa kan inkludera riktade nätfiskekampanjer eller försök att kringgå multifaktorautentisering.
En komplexitet uppstår då staten till stor del använder tredjeparts molntjänster. Säkerheten blir ett delat ansvar mellan leverantören och den enskilda myndighetens konfigurationer. Kritiker menar att ingen är juridiskt ansvarig för det löpande säkerhetsarbetet, vilket skapar luckor som AI-agenter lättare kan utnyttja. Experter betonar vikten av att även använda AI defensivt och att regeringens system behöver kontinuerlig uppdatering för att möta nya hot.