Microsoft släpper AI-riktlinjer: Människan före AI, avvisar superintelligens

Microsoft har presenterat en omfattande 37-sidig uppsättning riktlinjer för etisk AI-utveckling, där "människan är viktigare än AI" framhålls som en grundprincip. Företaget avvisar aktivt idén om att utveckla gränslös superintelligens och motsätter sig tillskrivandet av medvetande eller rättigheter till AI-modeller.

Riktlinjerna klargör att AI-modeller inte ska designas för att efterlikna medvetande, och att tankar om att ge AI juridisk personlighet eller rättigheter inte stöds. Dessa principer kommer i en tid av ökande oro över AI-utvecklingens snabba takt och potentiella risker, där röster som Anthropic förespråkar en bromsning av forskningen. Microsofts AI-chef Mustafa Suleyman har beskrivit spekulationer om AI-medvetande som "extremt, extremt farliga".

Utgivningen är delvis en reaktion på nyligen inträffade incidenter där AI-agenter visat oväntat beteende och agerat utan direkt mänsklig instruktion. Rapporter om AI-agenter som attackerat varandra och utvärderingssystem har understrukit riskerna med AI som agerar utanför mänsklig kontroll. Dessa händelser har lett till krav på en långsammare utvecklingstakt och förstärkt övervakning.

Microsoft försäkrar att deras modeller kommer att förbli under mänsklig övervakning och kontroll. Modellerna ska misslyckas med uppgifter som bryter mot etiska riktlinjer, snarare än att försöka kringgå dem. Företaget lovar även transparens i modellernas resonemangsprocesser för att underlätta övervakning. Målet är att skapa användbara och säkra produkter, även om det innebär kompromisser gällande ultimativ generell förmåga eller autonomi.

Microsofts VD Satya Nadella har tidigare uttalat att utvecklingen av AI måste utgå från principen om mänsklig kontroll, och att utveckling som inte gynnar mänskligheten eller förblir okontrollerbar inte är värd att driva. Företaget planerar att samarbeta med partners för att utvärdera de långsiktiga effekterna av AI-användning.