Anthropic uppdaterar Claude Fable 5-modellen för biologisk säkerhet
AI-företaget Anthropic har förbättrat Claude Fable 5-modellens säkerhetsmekanismer för biologiska hot. Uppdateringen minskar felaktiga blockeringar med 85 % och möjliggör hantering av ett bredare spektrum av biologiska frågor.
AI-företaget Anthropic har meddelat att de uppdaterar säkerhetsfunktionerna för sin modell Claude Fable 5. Syftet är att minska antalet felaktigt blockerade svar, särskilt gällande frågor om biologi.
Efter den senaste uppdateringen har systemnedgångar i samband med biologiska frågor minskat med 85 %, enligt företagets egna tester. Detta utökar Fable 5-modellens förmåga att hantera en bredare uppsättning biologiska uppgifter.
Anthropic har tidigare identifierat risker där modellen potentiellt kunde användas för högriskaktiviteter, såsom forskning kring biologiska vapen. För att motverka detta implementerade företaget säkerhetsfilter för att identifiera och förhindra användarförfrågningar som rör skyddade biologiska uppgifter eller generering av skadligt innehåll.
Nu har Anthropic justerat dessa säkerhetsfilter för att mer exakt kunna skilja mellan ofarliga frågor och potentiellt riskfyllda förfrågningar. Modellen kommer dock fortfarande att begränsa förfrågningar relaterade till professionell biologisk forskning och läkemedelsutveckling.