Hur godkände regeringen att OpenAI:s modell Sol kunde släppas?

OpenAI rullar ut sin senaste avancerade språkmodell, Sol, för bred tillgång.

Lanseringen av Sol har väckt frågor om statens roll i utvärderingen av AI-modellers säkerhet. Tidigare farhågor kring Anthropic-företagets Fable-modell, vars kapacitet var tillräckligt oroande för Vita huset att den kortvarigt förbjöds från allmän tillgång, understryker behovet av tydlighet.

Mina Narayanan, analytiker vid Georgetowns Center for Security and Open Technology, sade till TechCrunch att hon inte har tillräcklig insyn i de exakta processerna för att bedöma huruvida de är adekvata. "Anthropic sade att de hade samtal med regeringen och utvecklade en klassificerare för att upptäcka jailbreak-försök och implementerade defensiva strategier för att förhindra framtida jailbreaks", sa Narayanan, men betonade att den exakta dialogen mellan regeringen, Anthropic och OpenAI är oklar.

Dean W. Ball, en tidigare policyrådgivare under Trump-administrationen som nu arbetar för OpenAI, skrev i sitt nyhetsbrev förra månaden att "ingen vet vilka kraven är för att få licens". Informationen om på vilka grunder regeringen har godkänt lanseringen av modeller som Sol är fortfarande höljd i dunkel.

OpenAI:s avancerade språkmodeller, som Sol, erbjuder betydande nya förmågor, men deras snabba utveckling och breda tillgänglighet kräver fortsatt dialog och definition av tydliga säkerhetsstandarder mellan myndigheter och teknikföretag.