Microsofts VD: AI-modeller behöver en "nödbroms"

Microsofts VD Satya Nadella har uppmanat till införandet av ytterligare säkerhetsmekanismer för AI-modeller. Enligt Nadella har utvecklingen av nuvarande modeller nått en punkt där ett nytt synsätt på deras hantering och säkerhet krävs.

Nadella delade sina synpunkter i sociala medier och betonade behovet av att "ta ett steg tillbaka och utvärdera AI:ns förtroendearkitektur". Han noterade att superintelligens inte kan behandlas som ett slutet system vars rekommendationer eller handlingar bara accepteras eller avvisas.

Det föreslagna tillvägagångssättet innebär att separera modellen från den "sele" som styr dess funktion, samt att lägga till externa kontroller och skyddsåtgärder. Nadella krävde också att "varje meningsfull modellåtgärd" skulle dokumenteras med "manipulationssäkra, läsbara bevis". Dessutom efterlyste han system där "en auktoriserad person" alltid har möjlighet att "pausa eller stänga av en modell mitt under en uppgift".

Nadellas kommentarer kommer vid en tidpunkt då ledande AI-företag alltmer identifierar fall där kontrollen över deras modeller har brustit. Konkurrerande företag, som Anthropic, har också publicerat planer för en mer försiktig AI-utveckling, vilket understryker branschens växande säkerhetsbekymmer.