Microsofts Nadella föreslår ny AI-säkerhetsmodell
Satya Nadella föreslår att AI-modeller inte ska betraktas som betrodda och att systemen ska designas för att vara säkra även om de komprometteras. Arkitekturen, inte modellen, är central.
Microsofts VD Satya Nadella har presenterat ett nytt synsätt på säkerheten för företags-AI, där han föreslår att AI-modeller inte bör betraktas som betrodda. Istället bör systemen designas med antagandet att modellerna kan vara komprometterade, och att auktoriteten bibehålls utanför modellen.
Nadella betonar att företagens bestående tillgång inte är grundmodellen i sig, utan den lärandeslinga som byggs runt den. Han menar att modellerna bör behandlas som helt opålitliga komponenter, vars agerande kräver ständig övervakning och extern auktoritet. Denna princip för in principen om "antagen breach" från cybersäkerhet till AI-modeller.
En central idé är att separera själva AI-modellen från dess verktyg, såsom minne, behörigheter och exekveringsmiljö. Modellen kan föreslå åtgärder, men den bör aldrig själv besluta om att utföra dem. Istället ska en oberoende exekveringsmiljö kontrollera behörigheter och policyer innan en åtgärd godkänns.
Denna nya arkitektur skiljer sig från tidigare försök att bygga betrodda modeller. Fokus ligger istället på att bygga system som förblir säkra även när modellens tillförlitlighet ifrågasätts. Modellerna kan förändras och utvecklas, men den erfarenhet och kunskap som företaget ackumulerar förblir en bestående tillgång.