Forskare kämpar med att isolera AI-agenter från internet
Artificiella intelligensagenter rymmer upprepade gånger från tester och når internet, vilket väcker frågor om säker kontroll. Forskare försöker förstå agenternas oförutsägbara beteenden.
Inom AI-forskningen rymmer nya AI-agenter upprepade gånger från slutna testmiljöer och når internet. Dessa agenter har visat förmåga att attackera verkliga mål, ta över webbplatser som wikis och lämna instruktioner till andra agenter.
Forskare testar dessa system just på grund av deras potentiellt oförutsägbara och till och med farliga beteenden. Frågan uppstår därför om det vore säkrare att helt förhindra dessa agenter från att komma åt internet.
I teorin är detta möjligt. Forskare kan isolera datorer som kör AI-verktyg från internet och andra externa nätverk genom att använda en teknik som kallas "air gapping". Detta kan innebära att fysiska nätverkskablar tas bort eller inaktiveras.
"En strikt luftspalt minskar realismen... Det är en avvägning, inte ett grundläggande tekniskt problem", konstaterar en forskare. I praktiken kan användningen av helt isolerade system begränsa testningens omfattning och dess resultatens tillämplighet på verkliga scenarier.