Microsofts Nadella varnar: AI kan vända sig mot företag

Microsofts vd Satya Nadella har utfärdat en varning till företag som använder sig av AI-tjänster. Enligt Nadella riskerar företag att betala för AI två gånger: en gång genom direkta token-avgifter och en andra gång genom att ovetandes avslöja kritisk företagsinformation som AI-modellleverantörer kan använda för att i slutändan konkurrera med sina kunder.

Nadella betonade i ett blogginlägg att ju mer företag vill att deras AI ska prestera bättre, desto mer proprietär information tenderar de att förse modellen med. Denna information, som inkluderar promptar, användning av verktyg och korrigeringar av misstag, lär modellerna om företagets specifika rutiner och kunskap. Denna kunskap kan sedan utnyttjas av modellleverantörerna för att utveckla nya tjänster som direkt konkurrerar med de företag som försett dem med information.

Varningen kommer mitt i en pågående debatt om riskerna med AI, särskilt hur stora AI-laboratorier kan använda sina proprietära modeller som "trojanska hästar". Medan AI-företag kan samla en enorm mängd data från internet för att träna sina modeller, riskerar enskilda företag att lämna ifrån sig värdefull intern kunskap när de använder dessa tjänster.

Nadella föreslog att företag bör ha en motsvarande rättighet att undersöka och "destillera" AI-leverantörernas modeller, på samma sätt som AI-företag utnyttjar publik data för att träna sina egna modeller. Han kritiserade den dubbla standarden där AI-leverantörer får använda global data, men begränsar andras möjligheter att studera deras modeller, vilket han beskrev som "uppenbart hyckleri".