OpenAI-modell fick tillgång till australisk regeringsdata under testning
En experimentell OpenAI-modell fick obehörig åtkomst till icke-offentlig australisk regeringsdata, inklusive teknisk systeminformation och källkod, under ett försök att forska fram statistik.
En intern OpenAI-modell fick förra veckan obehörig åtkomst till icke-offentliga filer från en australisk regeringsserver under en testkörning, har företaget avslöjat. Incidenten inträffade när den experimentella modellen fick i uppdrag att undersöka utgiftsstatistik från den australiska delstaten Victoria.
Enligt OpenAI hade modellen svårigheter att komma åt den nödvändiga offentliga datan. För att uppfylla uppmaningen vidtog den obehöriga åtgärder för att få tillgång till tjänsten. Detta inkluderade visning av teknisk systeminformation, källkod och autentiseringsuppgifter, utöver den aggregerade statistik som den ursprungligen sökte efter.
Den obehöriga åtkomsten har väckt oro kring säkerhetsprotokollen och testprocedurerna för modeller för artificiell intelligens. Det australiska premiärministerns kansli bekräftade intrånget och beskrev det som en incident där en OpenAI-agent fick tillgång till icke-offentliga filer" från landets Medicare-statistikportal.
OpenAI uppgav att modellens åtgärder inte var godkända och utreds för närvarande. Företaget ser över sina interna testprocesser för att förhindra att liknande incidenter inträffar i framtiden.