Professor Sabelfeld föreläser om digital säkerhet och AI
Chalmers professor i cybersäkerhet, Andrei Sabelfeld, håller årets William Chalmers-föreläsning som behandlar säkerhet i programvara och AI-system i en tid av ökande hackerhot.
Andrei Sabelfeld, professor i cybersäkerhet vid Chalmers tekniska högskola, kommer den 12 november att hålla årets William Chalmers-föreläsning med titeln "Kan vi ligga steget före hackarna? Säker kod, säker AI och en säkrare framtid". Föreläsningen belyser de växande utmaningarna kring säkerheten i digitala system.
Sabelfelds forskargrupp fokuserar på att bygga in säkerhet från grunden snarare än att jaga enskilda sårbarheter. "Istället för att jaga enskilda sårbarheter vill vi bygga programvara så att hela kategorier av attacker slutar fungera", förklarar Sabelfeld. Gruppen har bland annat forskat om webbsäkerhet och identifierat tusentals användare drabbade av skadliga webbläsartillägg.
Utvecklingen av AI-agenter introducerar nya säkerhetsrisker. Dessa agenter kan agera på användarens vägnar, vilket skapar problem om de luras att utföra oönskade handlingar. Forskningen syftar till att säkerställa att AI-agenter endast har nödvändig åtkomst och att information endast flödar dit den ska.
Föreläsningen kommer att diskutera hur säker kod, AI och framtidens digitala system hänger ihop. Sabelfeld betonar vikten av att prioritera säkerhet redan i designfasen. "AI är bara så bra som sin säkerhet. Vår uppmaning är att bygga in säkerhet från början istället för att lappa på den efteråt", säger han.
William Chalmers-föreläsningen är en årlig publik föreläsning som arrangeras till minne av Chalmers grundare. Föreläsningen är öppen för allmänheten och syftar till att sprida kunskap om forskningens betydelse och framtida inriktning inom området.