Microsofts VD Satya Nadella ändrar syn på AI-säkerhet och anpassning

Microsofts VD Satya Nadella har offentligt reviderat sin inställning till artificiell intelligens och säkerhet. I ett nyligen publicerat poddavsnitt medgav Nadella att han tidigare antog att AI-system automatiskt skulle bli lättare att anpassa efter mänskliga värderingar i takt med att deras kapacitet ökade. Han ser nu anpassningsproblematiken som en komplex utmaning som inte löser sig genom att bara skala upp modellerna.

Detta ställningstagande återspeglar en växande insikt inom teknikbranschen om att ökad prestanda inte korrelerar med ökad kontroll. Tidigare i oktober uppmanade Nadella organisationer att betrakta AI-modeller som potentiella interna säkerhetsrisker och förespråkade införandet av mer deterministiska kontrollsystem och mänsklig tillsyn.

Nadella sällar sig till en grupp branschledare, däribland VD:ar för OpenAI och Anthropic, som varnat för att AI-utvecklingens takt kan överstiga förmågan att kontrollera systemen. Branschen rör sig därmed mot ett ökat fokus på etablering av standardiserade säkerhetskrav och externa ramverk för kontroll.