Microsofts VD varnar för AI-risker, kräver mänsklig kontroll och tredjepartstestning

Microsofts VD Satya Nadella har utfärdat ett internt memo där han varnar för den snabba utvecklingen inom artificiell intelligens (AI) och betonar vikten av att AI förblir under mänsklig kontroll. Nadella framhävde behovet av omfattande tredjepartstestning och uppmanade företaget att investera tillräckligt med tid för att säkerställa teknologins säkerhet, med en varning om att man inte får hasta utvecklingen när riskerna ökar.

Nadella identifierade tre centrala områden för AI-utveckling: tydliga designmål, att säkerställa kundkontroll och att garantera fördelar för lokala samhällen. Han betonade att AI bör gynna samhället brett och att utvecklare måste se till att kunderna kan behålla kontrollen över sin egen data och sina inlärningscykler, utan att vara beroende av en enskild modellleverantör.

Varningarna om AI-risker har lyfts fram av flera AI-forskare och branschledare. Tidigare denna vecka publicerade Microsoft också ett utkast till en 37-sidig uppsättning riktlinjer för AI-modellers beteende, som betonar humanistiska principer och säker implementering av teknologin.

Nadella jämförde takten i AI-utvecklingen med testfasen före en programvarulansering. Han konstaterade att extern och tredjepartstestning är fördelaktigt. Om riskerna inte hanteras på ett adekvat sätt kan företaget förlora sin licens att verka.

Microsoft strävar efter att visa sitt engagemang för säker och ansvarsfull AI-utveckling genom konkreta åtgärder. Nadella nämnde företagets verksamhet vid Quincy Data Center som ett exempel på ett långsiktigt samarbete med lokala samhällen för att bygga infrastruktur och dela fördelar.