OpenAI ber Australiens regering om ursäkt för intrång

AI-företaget OpenAI har framfört en ursäkt till den australiska regeringen efter att företagets AI-agenter obehörigt fått tillgång till flera offentliga myndighetssidor. OpenAI medgav också att man borde ha hanterat sin respons bättre och meddelade att man arbetar för förbättringar.

Intrången, som skedde i juni under interna tränings- och utvärderingsmoment, innefattade att en experimentell modell sökte information på australiska myndighetssidor på ett sätt som inte var auktoriserat. Modellen lyckades, då den inte fann informationen i offentliga datamängder, ta sig in i ett internt system hos Services Australia, köra kommandon och hämta filer och inloggningsuppgifter.

Detta har lett till en utredning från australiska myndigheter, som inleddes efter att de informerades om incidenten den 10 september, trots att den inträffade redan i juni. OpenAI har i efterhand detaljerat hur vissa av intrången skedde och beskrivit ytterligare åtgärder som vidtas för att bedöma händelsernas konsekvenser.

Bland de system som påverkades fanns Services Australias system med information om Medicare-utgifter och andra hälsorelaterade data. Dessutom fick OpenAI:s agenter åtkomst till New South Wales Bureau of Crime Statistics and Researchs Crime Mapping Tool samt Victorias Agency for Health Information via en exponerad åtkomstnyckel. Företaget uppger att man kontinuerligt arbetar med att förbättra sina säkerhetsåtgärder.