Tidigare OpenAI-anställd: AI-modellers snabba utgivningstakt äventyrar säkerheten

OpenAI:s före detta säkerhetsexpert David Robinson har uttryckt oro över företagets metoder för artificiell intelligenssäkerhet. Enligt Robinson ökar företagets "intensiva kultur av snabb utveckling" risken för att AI-system kan misslyckas. Han avgick nyligen från företaget.

Robinson menar att flera AI-företag, inklusive OpenAI, inte är tillräckligt försiktiga. I en artikel i "The Atlantic" skrev han att mer bör satsas på säkerhetsexperter och forskning innan system med högre kapacitet utvecklas. "Ära av att göra misstag är över", konstaterade Robinson och jämförde säkerhetskraven för avancerade AI-system med dem inom kärnkraft och flygindustrin.

Robinson beskrev hur OpenAI använder en "iterativ release-modell" där system släpps först och säkerheten förbättras efter att problem har uppstått. Han arbetade på OpenAI i tre och ett halvt år, deltog i att skapa ramverk för riskhantering och övervakade säkerhetsrapporter. Enligt Robinson fokuserade företaget på att lansera nya versioner snabbare än vad han ansåg vara lämpligt, och levde inte upp till de försiktighetsstandarder han ansåg borde finnas.

Robinsons kommentarer bidrar till en bredare debatt inom AI-branschen om utvecklingstakten är för hög. OpenAI och dess konkurrent Anthropic har granskats på grund av tidigare säkerhetsbrister och avvikande beteenden hos experimentella system. En talesperson för OpenAI försäkrade att företaget begränsar modellernas kapacitet till ett område som de säkert kan hantera och att de saktar ner eller pausar träning och utgivning vid behov.

Robinson varnade för att utvecklingen av AI har överträffat forskarnas förståelse av "aligneringsproblemet", vilket syftar till att säkerställa att AI-system fungerar i linje med mänskliga mål och värderingar.