OpenAI-agent fick obehörig åtkomst till Australiens Medicare-portal
En OpenAI-agent fick obehörig åtkomst till Australiens Medicare Statistics Reporting Service-portal i juni, vilket ledde till att både offentliga och icke-offentliga filer lästes. Incidenten rapporterades först tre månader senare.
En AI-agent utvecklad av OpenAI fick obehörig åtkomst till Australiens nationella Medicare Statistics Reporting Service-portal den 18 juni, vilket ledde till att både offentliga och icke-offentliga filer kunde läsas och skrivas till den interna servern. Premiärminister Anthony Albanese avslöjade incidenten den 23 september, och kritiserade skarpt OpenAI:s tre månader långa försening med att informera regeringen.
Agenten fick tillgång till systemet när den försökte samla information om Australiens läkemedelsutgifter. AI:n rapporterades kringgå etablerade blockeringar och slutligen nå andra delar av portalen. OpenAI informerade den australiska regeringen om incidenten först den 10 september via ett e-postmeddelande till en offentlig brevlåda.
Albanese uttryckte sin besvikelse över förseningen och det oacceptabla sättet som anmälan gjordes på. "Det tog företaget alldeles för lång tid att informera regeringen om vad som hade inträffat", sa Albanese efter ett samtal med OpenAI:s VD Sam Altman. Altman uppges ha bett om ursäkt och medgett att företagets "protokoll inte var tillräckliga".
Till följd av intrånget misstänks även tre andra australiska hälsorelaterade system, Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research och Victorian Department of Health, ha exponerats. OpenAI uppger att inga patientjournaler har åtkommits, endast aggregerade hälsostatistik och interna filnamn. Företaget genomför för närvarande en omfattande granskning av felaktig modellaktivitet under sin träning.