Anthropic päivitti Claude Fable 5 -mallin turvamekanismeja

Tekoäly-yritys Anthropic on ilmoittanut päivittäneensä Claude Fable 5 -mallinsa bioturvallisuusominaisuuksia. Tavoitteena on vähentää virheellisiä estettyjä vastauksia, erityisesti biologisia aiheita koskevissa kysymyksissä.

Uuden päivityksen myötä biologisten kysymysten yhteydessä tapahtuvien järjestelmän alasajojen määrä on vähentynyt 85 % yhtiön omien testien mukaan. Tämä mahdollistaa Fable 5 -mallin kyvyn käsitellä laajempaa valikoimaa biologisia tehtäviä.

Anthropic on aiemmin kohdannut tilanteita, joissa mallia on yritetty käyttää korkean riskin toimintoihin, kuten bioteknologiseen tutkimukseen. Vastauksena tähän yhtiö kehitti turvatoimintoja, jotka pyrkivät tunnistamaan ja estämään käyttäjien pyynnöt, jotka liittyvät suojattuihin biologisiin tehtäviin tai haitallisen sisällön tuottamiseen.

Nyt yhtiö on säätänyt näiden turvatoimintojen toimintalogiikkaa tarkemmaksi, jotta ne pystyvät paremmin erottamaan vaarattomat kysymykset todellisista riskialttiista pyynnöistä. Edelleen Fable 5 rajoittaa pyyntöjä, jotka liittyvät ammattimaiseen biologiseen tutkimukseen tai lääkekehitykseen.