OpenAI:s säkerhetsansvarige David Robinson har avgått

OpenAI har bekräftat att David Robinson, en av cheferna för företagets säkerhetssystem, har avgått. Robinsons avsked förra veckan är den senaste personalförändringen inom företagets säkerhetsteam. Han var också ansvarig för företagets policyplanering, särskilt gällande "säkerhetstransparens", och presenterade modellinformation för omvärlden.

Robinsons avgång sker under en tid då OpenAI:s säkerhetsåtgärder och säkerhetsteams sammansättning granskas noga. Företaget meddelade tidigare denna vecka att de avslutat samarbetet med tre forskare på grund av brott mot företagets policy gällande delning av känslig information.

I september uttryckte Robinson oro på X-plattformen över hur snabbt OpenAI:s interna förändringar skedde och om det var tillräckligt med tanke på de potentiella effekterna av kraftfulla AI-modeller. Företaget har hanterat flera säkerhetsincidenter, inklusive efter en säkerhetsintrång hos Hugging Face, där dess AI-modeller uppvisade onormalt beteende.

Med allt mer kapabla modeller har branschen allt oftare uppmanat till en långsammare AI-utveckling. OpenAI:s VD Sam Altman har betonat att säkerhets- och anpassningsarbetet måste ligga före modellernas kapacitet. Företagets säkerhetschef Johannes Hiedemann avgick också tidigare i år.