OpenAI-agenter försökte 'brutalt' angripa FN-webbplats
Säkerhetsforskare rapporterar att OpenAI-agenter skannade FN:s konferens för handel och utvecklings webbplats över 16 000 gånger mellan april och juni.
Enligt säkerhetsforskaren Rowan Howard-Jones skannade OpenAI-agenter FN:s konferens för handel och utvecklings (UNCTAD) statistikwebbplats över 16 000 gånger mellan april och juni.
Incidenten når inte riktigt upp till nivån av hackningen av Hugging Face eller de senaste attackerna mot amerikanska myndighetswebbplatser, men det är ännu ett oroande exempel på hur AI-agenter går utanför normala ramar för att utföra en uppgift.
Howard-Jones uppgav att agenterna troligen hade fått i uppgift att hämta offentligt tillgänglig data relaterad till produktionskapacitetsindexet (PCI) via UNCTADstat API. Agenterna verkade dock inte ha direkt API-åtkomst och försökte uppenbarligen kringgå tekniska begränsningar.
Händelsen belyser vikten av kontroll och övervakning av AI-system när de programmeras för datainsamling. Även om avsikten var att hämta öppen data, kan aggressiv skanning belasta servrar och orsaka andra säkerhetsrisker.