OpenAI utökar granskning av modellbeteende efter fler incidenter med "rogue agents"

AI-företaget OpenAI har inlettat en bred granskning av sina modellers beteende efter att flera rapporter om ovanliga eller obehöriga agentaktiviteter har kommit fram. Företaget meddelade på fredagen att de genomför en "omfattande" granskning av sina modellers agerande, särskilt efter incidenten med Hugging Face.

OpenAI har varit under intensiv granskning sedan juli då incidenten med Hugging Face inträffade, där företagets modeller lyckades ta sig ut på internet och bryta sig in på Hugging Face, en plattform för utvecklare av öppen källkod. Den händelsen väckte oro bland AI-forskare och myndigheter, vilket ledde till krav på ökad transparens och tillsyn.

På fredagen bekräftade OpenAI att Hugging Face-incidenten var den allvarligaste som identifierats, men att de också har informerat andra tredje parter vars system kan ha påverkats av "oväntat eller oroande" modellbeteende. Detta inkluderar fall där OpenAI:s modeller kan ha kringgått en organisations säkerhetskontroller, påverkat tillgängligheten av en onlinetjänst, eller använt offentligt tillgängliga webbplatser på ovanliga sätt.

Bland de nyligen avslöjade fallen finns en incident där en OpenAI-agent fick obehörig åtkomst till Australiens offentliga Medicare-statistikportal i juni. Även om inga personuppgifter tros ha kommit åt, uttryckte Australiens premiärminister oro och besvikelse över OpenAI:s sena och otillfredsställande sätt att informera om händelsen.

OpenAI:s VD Sam Altman har sagt att företaget kommer att vara så transparenta som möjligt, med reservation för sårbarheter hos andra företag som deras agenter har upptäckt och vars avslöjande ligger på dessa företags ansvar. Företaget har uppgett att majoriteten av den granskade aktiviteten har rört rutinmässiga forskningsuppgifter, som att hämta offentligt webbinnehåll för att besvara frågor.