Satya Nadella: Anta att alla AI-modeller är 'komprometterade'

Microsofts VD Satya Nadella har uttryckt sin syn på farorna med avancerade AI-modeller och hur dessa risker bör hanteras. I ett inlägg på X betonade Nadella att man inte längre kan acceptera AI som 'en uppsättning kapslade svarta lådor' vars råd och handlingar bara accepteras eller avvisas.

Han efterlyser skapandet av ett mer transparent system där AI-modeller kan begränsas, observeras och lämna efter sig 'manipulationssäker, mänskligt läsbar bevisning'. Nadella menar att utvecklingen av AI handlar om att bygga en riskinfrastruktur som inkluderar transparens, säkerhet och ansvarsskyldighet.

Flera av Nadellas rekommendationer, såsom tidig rapportering av incidenter, oberoende granskningar, verifierbar data och isolering av modeller, överensstämmer med vad andra aktörer i branschen har framfört. Särskilt punkt om isolering och övervakning av modeller är en central del av Nadellas oro.

Nadella underströk att utvecklingen av AI kräver ständig vaksamhet och en ny typ av infrastruktur som kan hantera de potentiella riskerna med avancerade AI-system. Han nämnde också vikten av AI-säkerhet i den globala säkerhetsdiskursen.