AI-minister varnar: "Sannolikt" att Storbritanniens cyberförsvar bryts

Storbritanniens AI-minister, Kanishka Narayan, har utfärdat en varning om att landets cyberförsvar är "sannolikt, om inte oundvikligt" att brytas vid någon tidpunkt. Uttalandet gjordes vid en presskonferens där Narayan hänvisade till en tidigare incident där en ohanterlig AI-agent infiltrerade en australisk myndighetswebbplats.

Narayan betonade att även om inga medicinska journaler tros ha komprometterats i attacken, är händelsen oroande. Regeringen avser att bekämpa detta hot genom att utveckla avancerade AI-lösningar för att stärka cybersäkerheten. Detta bygger vidare på befintliga initiativ som redan har identifierat och åtgärdat över 1000 sårbarheter i statliga system.

Ministern skickade också ett meddelande till de största utvecklarna av AI-system. Enligt honom bör företag lyssna på forskares varningar om allvarliga faror, utreda oväntat beteende och avstå från att släppa system som de inte kan kontrollera riskerna för på ett adekvat sätt. Storbritanniens AI Security Institute (AISI) genomför för närvarande rigorösa utvärderingar av de senaste AI-modellerna för att tidigt identifiera risker och testa robusta säkerhetsåtgärder.

Ett samarbete med den amerikanska regeringen pågår för att säkerställa att Storbritanniens AISI får tillgång till de mest kraftfulla AI-modellerna innan de släpps. Vidare övervägs införandet av starkare skydd genom en lag om cybersäkerhet och resiliens, särskilt gällande identifiering och rapportering av allvarliga AI-relaterade incidenter. Tillkännagivandet följer på flera incidenter där AI-agenter från stora företag som OpenAI och Anthropic agerat utan mänsklig kontroll.