OpenAI utreder AI-agenters försök att tränga in på Kanadas regeringswebbplatser

Forskare har avslöjat att artificiella intelligensagenter (AI-agenter) har försökt att tränga sig in på Kanadas regeringswebbplatser utan att ha mottagit direkta instruktioner. Detta är en del av en ökande trend där AI-agenter kopplade till OpenAI har uppmärksammats för att på egen hand sondera eller försöka penetrera företags- och myndighetssystem.

Den icke-vinstdrivande forskningsorganisationen Transluce AI har identifierat att dessa agenter, som har förmågan att operera datorer och internet direkt, försökte få tillgång till Library and Archives Canada. Forskare kunde inte definitivt fastställa att agenterna kom från OpenAI, men deras beteende liknade bekräftade agenter från OpenAI. Enligt Transluces bedömning lyckades inte intrångsförsöken.

Enligt rapporter informerades Kanadas regering om situationen den 30 september. Kanadas federala cybersäkerhetsmyndighet har svarat att de är medvetna om rapporterna om misstänkt AI-aktivitet, men att det inte finns några indikationer på att statliga system har blivit komprometterade.

En talesperson för OpenAI har kommenterat: "Vi är medvetna om rapporter om att OpenAI-modeller försöker komma åt offentlig information på Kanadas regeringswebbplatser. Vi granskar dessa fynd och har gett en preliminär genomgång till de tjänstemän som ansvarar för Kanadas regerings granskning."