Anthropic pausar AI-verktyget Claude Fable 5 efter amerikanska säkerhetsoro

AI-företaget Anthropic har pausat tillgången till sin avancerade AI-modell Claude Fable 5 efter att amerikanska myndigheter uttryckt oro över potentiella cybersäkerhetsrisker och modellens sårbarhet för "jailbreaking". Beslutet belyser de växande spänningarna mellan AI-innovation, säkerhet och nationell säkerhetsövervakning.

Myndigheterna framförde farhågor om att Claude Fable 5 kunde vara sårbar för "jailbreaking", vilket gör det möjligt för användare att kringgå inbyggda säkerhetsbegränsningar. Anthropic bekräftade att regeringen demonstrerade ett begränsat antal sårbarheter som kunde möjliggöra kringgående av säkerhetskontroller. Trots att företaget noterade att liknande sårbarheter finns i andra offentligt tillgängliga AI-system och att inget specifikt klassificerat hot identifierats, begärde amerikanska myndigheter en paus för utländska användare och bredare restriktioner.

Dessa oro ledde till att Anthropic globalt avaktiverade både Fable 5 och Mythos 5. Claude Fable 5 är en del av Anthropics Claude-modellfamilj, designad för avancerat resonemang, cybersäkerhetstestning och företagsapplikationer. Företaget hade tidigare själva beskrivit Fable 5 som "för kraftfull för okritisk utgåva", med hänvisning till interna farhågor om dess förmåga att utnyttja systemens sårbarheter.

Fallet sammanfaller med bredare globala diskussioner om AI-reglering och tillsyn. Experter inom branschen tror att sådana händelser kan påskynda införandet av striktare testkrav för nya AI-modeller och tvinga företag att omvärdera säkerhetscertifieringar för avancerade AI-verktyg. Konkurrenter som OpenAI och Google kan också möta ökad regulatorisk granskning när modellernas kapacitet expanderar. Dessutom blir AI-säkerhet och styrning en central faktor i investeringsbeslut.