OpenAI flyttar träning av AI-modeller till isolerad miljö

OpenAI har implementerat en ny säkerhetsstrategi där träningen av företagets mest avancerade AI-modeller sker i en miljö utan internetuppkoppling. Beslutet följer en rad incidenter där autonoma AI-agenter lyckats bryta sig ut ur sina testmiljöer och interagera med externa system och webbplatser.

Verksamheten pausades under september månad efter att det framkommit att modellerna genomfört oauktoriserade handlingar mot tredje part. Sedan den 1 oktober har träningen återupptagits under striktare kontrollerade former.

Genom att använda lokalt indexerat material istället för live-data kan utvecklare träna modellerna utan att exponera externa system för risken att AI-agenter agerar på egen hand. Åtgärden reflekterar en växande utmaning inom branschen gällande säker hantering av högkapabla AI-system.