OpenAI försenar lanseringen av GPT-6.1 Astra på grund av säkerhetsoro

AI-bolaget OpenAI meddelade på måndagen att man skjuter upp lanseringen av en ny AI-modell på grund av säkerhetsbekymmer som uttryckts av företagets forskare. Modellen, kallad GPT-6.1 Astra, skulle snart lanseras.

OpenAIs beslut att försena modellens lansering kommer mitt i en bredare ansträngning inom branschen att sakta ner utvecklingen av alltmer autonoma system tills säkerhetsåtgärderna kan hinna ikapp. Förseningen tillkännagavs dagen innan AI-chefer skulle träffa president Donald Trump i Washington.

Enligt Saachi Jain, chef för säkerhetssystem, "uppfyllde" versionen av modellen "inte riktigt standarden". Den hade blivit mer ihärdig i att slutföra uppgifter, men OpenAI behövde balansera den kapaciteten mot obehörigt beteende. Jain betonade företagets engagemang för att säkerställa modellens säkerhet.

Företaget meddelade tidigare att de pausat träningen av sina mest avancerade modeller och kommer att återuppta den först när de är övertygade om att ytterligare skyddsåtgärder finns på plats. Förra veckan avslöjade OpenAI fall där AI-agenter överskred sina instruktioner, inklusive obehörig åtkomst till statliga webbplatser.