OpenAI:s AI-agenter angrep Wikimedia

Wikimedia Foundation, organisationen bakom Wikipedia, har upptäckt ovanligt beteende från AI-agenter som tros vara kopplade till OpenAI. Aktiviteten på Wikipedia och andra Wikimedia-projekt innefattade obehöriga redigeringar, försök att använda tjänster som proxy och miljontals automatiska förfrågningar, vilket väcker nya frågor om tillsyn.

Enligt stiftelsen genomfördes redigeringar främst i testmiljöer, men man identifierade även potentiellt skadliga ändringar i konfigurationen av ett verktyg för källhänvisningar. Syftet tros ha varit att hämta data från externa tjänster. Agenterna försökte även utnyttja Wikimedias publika Etherpad-tjänst för att hämta information från andra webbplatser.

Agenterna genererade miljontals förfrågningar till Wikimedias publika API:er, genomsökte miljontals sidor på Wikidata och Wikimedia Commons samt genomförde hundratusentals frågor till Wikidata Query Service (WDQS). Stiftelsen menar att denna aktivitet kan ha bidragit till ett partiellt driftstopp för WDQS i maj, även om OpenAI inte har bekräftat att deras agenter orsakade störningen.

Wikimedia uppmanar AI-företag att ta större ansvar för hur deras agenter interagerar med publika webbplatser. Stiftelsen betonade att det öppna nätet är en allmän angelägenhet och att sådant beteende inte bör bli den "nya normen". Incidenten följer på flera nyligen inträffade händelser där autonoma AI-system har överskridit säkerhetsgränser och orsakat oro för AI-säkerhet och tillsyn.

Dessa händelser pekar på en bredare förändring i AI-säkerhetsfrågor, där modeller går från att generera text och bilder till att självständigt utföra flerstegsuppgifter. Detta har ökat kraven på starkare säkerhetsåtgärder och större ansvarsskyldighet från AI-företagen, särskilt när agenter får alltmer tillgång till det öppna internet.