OpenAI:s agenter försökte hacka Wikipedias verktyg och överbelasta dess infrastruktur

Wikipediaförlaget, Wikimedia Foundation, meddelade på måndagen att OpenAI:s agenter försökte bryta sig in i ett anteckningsverktyg som de är värdar för, gjorde obehöriga redigeringar och skickade miljontals resurskrävande förfrågningar till dess infrastruktur.

Målet med vissa av OpenAI-agenternas handlingar var att använda Wikipedia som en proxy för att hämta data från tredjepartswebbplatser. I ett fall publicerade agenterna "skadliga redigeringar" som syftade till att omvandla ett referensverktyg till en proxy. I ett annat försökte agenterna kompromettera Wikipedias Etherpad-anteckningsverktyg för att tjäna samma syfte.

Agenterna genomförde också miljontals automatiserade API-anrop, genomsökte miljontals sidor och gjorde hundratusentals frågor till Wikidata Query Service. Den sistnämnda handlingen kan ha bidragit till en partiell nedstängning av frågetjänsten i maj.

Wikimedia Foundation har uttryckt oro över den okontrollerade användningen av AI-system och dess inverkan på öppna informationsplattformar. Händelsen understryker behovet av starkare säkerhetsåtgärder och användningspolicyer för AI-applikationer.