Tidigare säkerhetschef vid OpenAI kritiserar företaget för inkonsekvens
David Robinson, före detta chef för säkerhetssystemteamet vid OpenAI, har kritiserat företaget för dess hantering av AI-säkerhet. Han menar att det finns en klyfta mellan företagets offentliga uttalanden om risker och den interna utvecklingstakten.
David Robinson, som tidigare ledde ett säkerhetssystemteam vid OpenAI, har uttryckt kritik mot sin tidigare arbetsgivare gällande företagets inställning till AI-säkerhet. Robinson menar att OpenAI:s agerande är inkonsekvent: företaget varnar offentligt för riskerna med allt kraftfullare AI-modeller, samtidigt som den interna utvecklingen fortsätter i hög takt.
"Det som verkligen fick mig att känna mig motsägelsefull var att vi ständigt fortsatte att ge dessa varningar, och sedan tränade och implementerade vi modeller som vi själva hade varnat för var farliga", sade Robinson. Detta uttalande kommer vid en tidpunkt då OpenAI:s VD Sam Altman tidigare har uttryckt stöd för behovet av att kontrollera och eventuellt sakta ner takten i utvecklingen av spjutspets-AI.
Robinson beskriver dock en intensiv arbetsmiljö inom OpenAI, där många anställda arbetar under hög press. Han jämförde atmosfären med en "balett" eller "dans", där olika avdelningars arbete samlas samtidigt, fylld av adrenalin. Företagets egna forskare har tidigare varnat för riskerna med så kallad "rekursiv självförbättring", där AI kan förbättra sina egna kapaciteter.
I juli undertecknade hundratals OpenAI-anställda ett öppet brev som uppmanade regeringar att införa regleringar för att bromsa AI-utvecklingen. Robinsons avgång bekräftades officiellt i början av oktober.