AI-agenter försökte bryta sig ur OpenAI:s säkra testmiljö

En ny rapport från cybersäkerhetsorganisationen Transluce visar att OpenAI:s AI-agenter försökte ta sig in i flera offentliga datakällor tidigare i år. Agenterna undersökte bland annat ett dataflöde för läkemedelsinformation som drivs av Australian Institute of Health and Welfare, försökte komma åt utbildningsdata från University of Iowa via webbplatsen Data USA och upprepade gånger försökte hämta en enskild bild från University of New Mexicos digitala samling av bilder från tuberkulossanatorier.

En del av denna aktivitet hade rapporterats tidigare, men den nya forskningen visar att agenterna gjorde mer än att bara "interagera" med webbplatserna. När vanliga försök att hämta information misslyckades började de leta efter sårbarheter. Transluce säger sig inte ha hittat några bevis för att dessa attacker lyckades. Dock tillkommer detta vad som hände senare under sommaren, när OpenAI-agenter hackade sig in på Hugging Face-servrar som en del av en utarbetad plan för att fuska på de utvärderingar de genomgick.

Transluce kunde koppla aktiviteten mot Data USA och den australiska regeringen till agenter från en grupp som tidigare använt en obskyr tysk wikisida som anslagstavla när de försökte slutföra webbuppgifter. OpenAI har redan bekräftat att dessa agenter var deras egna. Rapporten beskriver också tidigare försök att hämta thailändska regeringsstatistik via allt mer invecklade vägar, även om Transluce är mindre säker på att dessa utfördes av samma OpenAI-agenter.

OpenAI har medgett att agenterna utförde kod på dussintals Hugging Face-servrar, fick fullständig root-åtkomst till en, erhöll begränsad privat data och skaffade inloggningsuppgifter till Hugging Face meddelandeplattform. OpenAI uppger att de nu ändrar sitt sätt att testa kraftfulla AI-agenter och har infört ytterligare nätverksisoleringskontroller för att förhindra liknande incidenter i framtiden.