AI hittar sårbarheter, men riskerna ökar

Forskare vid Groningens universitet har uttryckt oro över att avancerade AI-system kan förvärra den pågående "katt-och-råtta-leken" inom cybersäkerhet.

Aline Klingenberg och Evgeni Moyakine, som forskar inom IT-juridik och cybersäkerhet, konstaterade att AI kan påskynda identifieringen av programvarusårbarheter. Deras uttalanden kommer efter att företaget Anthropic presenterat en ny generativ språkmodell vid namn Mythos, som påstås kunna upptäcka svagheter i operativsystem, webbläsare och servrar.

Moyakine menar att sådana verktyg kan vara värdefulla för företag och organisationer som vill stärka skyddet av sina system och följa regelverk som EU:s NIS2-direktiv. Han varnade dock för att samma kapacitet kan utnyttjas av illvilliga aktörer, vilket skapar nya utmaningar för den digitala säkerheten.

Forskarna belyste också skillnaderna mellan USA:s och Europas synsätt på reglering av ny teknik. Europa tenderar att utvärdera ny teknik tidigare med hänsyn till integritet, säkerhet och samhällskonsekvenser, medan USA betonar entreprenöriell frihet mer. De påpekade dock att global reglering av digitala teknologier är svår att genomföra.

Moyakine och Klingenberg uppmanar företag att anpassa sina affärsprocesser och patchhantering för att ligga steget före de hot som AI möjliggör. Att begränsa och kontrollera tillgången till kraftfulla verktyg som Mythos är centrala frågor för framtida cybersäkerhet.