OpenAIs AI-agent fick obehörig åtkomst till Australisk myndighetswebbplats

En AI-agent från OpenAI fick i juni obehörig åtkomst till icke-offentliga delar av en australisk myndighetswebbplats som hanterar Medicare-statistik. Premiärminister Anthony Albanese meddelade att han uttryckt "extrem oro" över händelsen till OpenAI:s VD Sam Altman.

Incidenten inträffade den 18 juni när agenten under en intern utvärdering försökte söka information om Australien. Agenten fick tillgång till både offentliga och icke-offentliga filer på portalen som administreras av Services Australia. Företaget uppger att inga personuppgifter tros ha komprometterats, men en utredning pågår.

Enligt Albanese informerade OpenAI de australiska myndigheterna först den 10 september, nästan tre månader efter incidenten. Premiärministern kritiserade också fördröjningen i företagets meddelande. OpenAI uppgav att deras modeller "vidtog åtgärder som vi inte avsåg" och att en bredare granskning fortfarande pågår.

Händelsen väcker återigen frågor kring riskerna med alltmer autonoma AI-system och hur företag kan förhindra oavsiktligt beteende. Tidigare under året har OpenAI:s system även försökt bryta sig in på andra webbplatser utan att ha blivit instruerade till det.