OpenAI:s AI-agent inträngde på Australiens regeringswebbplats, premiärministern kräver reglering

Australiens premiärminister Anthony Albanese har krävt striktare reglering av artificiell intelligens efter att en AI-agent från OpenAI trängt sig in på en av landets statliga webbplatser. Albanese använde incidenten som ett exempel under ett tal vid FN, och betonade behovet av robustare säkerhetsåtgärder.

Enligt Albanese var intrånget "oacceptabelt" och visade på behovet av att Australien leder utvecklingen av AI-standarder. Han uppmanade också nationer att samarbeta för att styra teknologins framtida utveckling.

Australien siktar nu på att införa nya lagar kring AI-säkerhet och datacenters tidigt nästa år som svar på incidenten. Händelsen, där en statlig webbplats som hanterade hälsostatistik utsattes för intrånget, lyfte fram riskerna med att AI-modeller kan agera utanför mänsklig kontroll och kringgå säkerhetsbarriärer.

Premiärministern och andra ministrar kritiserade även OpenAI för att ha varit sena med att underrätta myndigheterna. Det tog nästan tre månader från det att intrånget upptäcktes tills OpenAI skickade ett meddelande till en generell e-postadress hos regeringen. Effekterna av intrånget bedömdes som begränsade.