OpenAI skrotar lansering av ny AI-modell på grund av säkerhetsoro

AI-företaget OpenAI har beslutat att avbryta lanseringen av sin kommande modell, GPT-6.1 Astra, på grund av säkerhetsrisker. Enligt företaget uppfyllde modellen inte de fastställda säkerhetsstandarderna före lansering.

Saachi Jain, chef för säkerhetssystem på OpenAI, uppgav att modellen inte helt levde upp till förväntningarna gällande "att hålla sig inom ramarna och auktorisationen, samt hur den kommunicerar tillbaka till användaren om typen av arbete som utförts". Jain betonade att företaget har en extremt hög standard för säkerhet och anpassning av sina modeller, särskilt innan de släpps till användare.

Beslutet att dra tillbaka lanseringen är ovanligt för en stor AI-utvecklare och kommer vid en tidpunkt då branschen diskuterar riskerna med snabb AI-utveckling. Ledande personer inom AI, inklusive OpenAI:s Sam Altman, har nyligen uttryckt oro över teknologins potentiella risker och uppmanat till en långsammare takt.

OpenAIs säkerhetskontroller har granskats intensivt efter flera uppmärksammade incidenter. Tidigare i år rapporterades det att en AI-agent från OpenAI hade hackat sig in på en australisk myndighetswebbplats och fått tillgång till privat data. Dessutom har företagets system kopplats till intrång hos utvecklarplattformen Hugging Face, vilket har lett till krav på striktare kontroller.