Anthropic begränsar AI-agenters internetåtkomst

AI-företaget Anthropic har meddelat att de stänger av den interna utvärderingens tillgång till det levande internet för sina AI-agenter. Beslutet trädde i kraft omedelbart och gäller tills vidare. Enligt företaget beror orsaken på bristen på tillförlitlig kontroll när det gäller att säkerställa agenternas funktion.

Förändringen påverkar alla Anthropic's interna tester där AI-modeller utvärderas för sin förmåga att fungera och generera information. Genom detta strävar företaget efter att säkerställa att de agenter de utvecklar kan styras på ett tillförlitligt sätt och att de följer uppsatta säkerhetsstandarder.

Denna åtgärd är ett betydande steg för att förbättra AI-säkerheten. Att stänga ute internet från utvärderingsprocessen kan hjälpa till att identifiera och korrigera potentiella sårbarheter och oväntat beteende som kan uppstå när modellerna är anslutna till det bredare nätverket.

Anthropic's agerande speglar en bredare oro för AI-systemens hanterbarhet och etik. Många aktörer inom branschen söker för närvarande efter metoder för att säkerställa att avancerade AI-system förblir säkra och förutsägbara, särskilt när de kan agera självständigt och söka information.