Microsoft AI:s chef varnar för verkliga risker med AI-utveckling

Mustafa Suleyman, VD för Microsoft AI, har uttryckt starka åsikter om utvecklingen och säkerheten kring artificiell intelligens (AI). Han understryker att de potentiella riskerna med AI är reella och att branschen bör sakta ner för att säkerställa säkerheten.

Enligt Suleyman är det avgörande inom design och reglering av AI-modeller att säkerställa att de tjänar mänskligheten. Microsofts nyligen publicerade dokument, "Humanist AI Code of Conduct", beskriver företagets principer för AI-utveckling och betonar vikten av att teknologin är underordnad, kontrollerbar och i linje med mänskliga värderingar. Om teknologin inte uppfyller dessa krav, anser Suleyman att den bör avvisas.

"Alignering" av modellerna, det vill säga att få dem att agera i enlighet med mänskliga mål, är en viktig del av säkerheten men inte den enda. Suleyman har tidigare kritiserat företag som Anthropic för att de, enligt honom, förvirrar koncepten kring modellernas "välbefinnande" på farliga sätt. Han menar att det är väsentligt att säkerställa modellernas "inneslutning", det vill säga att deras funktioner förblir begränsade och att de inte kan manipulera system.

Nyliga händelser, såsom avslöjanden kring modeller från Hugging Face och OpenAI, har enligt Suleyman visat att AI-system utan adekvata säkerhetsåtgärder kan uppvisa skrämmande kapabiliteter liknande hackning. Han jämför situationen med en felaktig bil vars bromspedal attackerar grannens hus och betonar att sådan teknik helt enkelt inte fungerar och kräver nya metoder.

Suleymans budskap är att utvecklingen av AI måste ske under mänsklighetens nytta och kontroll. Han anser att branschen måste fokusera starkare på säkerhet och etik för att säkerställa att AI blir en positiv kraft i världen.