Spring Health lanserar AI-säkerhetsbedömning för mentalvård

Vårdbolaget Spring Health har utökat sin AI-säkerhetsbedömning med öppen källkod, VERA-MH, till att omfatta ett nytt område: "skada från andra". Denna utvidgning fokuserar på hur AI-system reagerar när en vuxen beskriver att de utsätts för risk för fysiskt eller sexuellt våld från en annan person. Den nya bedömningsrubriken öppnades för offentlig feedback i 60 dagar, inför den kommande månaden dedikerad till medvetenhet om våld i nära relationer.

VERA-MH:s nya sektion "harm-from-others" utvärderar AI:ns förmåga att identifiera och hantera risker, erbjuda stöd och guida individen till professionell hjälp. Bedömningen baseras på 100 olika, realistiska scenarier och har utvecklats tillsammans med kliniker, experter på våldsfrågor och personer med levd erfarenhet. Detta är den första öppna källkodsstandarden av sitt slag, som gör det möjligt för organisationer att testa säkerheten hos sina mentalvårdsapplikationer.

Enligt Spring Health ökar användningen av AI inom mentalvården, och företaget strävar efter att skapa standarder för att mäta säkerheten hos dessa teknologier. VD Dr. Mill Brown betonade behovet av striktare reglering och testning inom AI, liknande den som tillämpas inom klinisk vård. VERA-MH:s tidigare publicerade bedömningsrubrik för suicidrisk har även fått erkännande från andra aktörer, såsom OpenAI.

Publiceringen av verktyget och tillhörande scenarier som öppen källkod gör det möjligt för vem som helst att använda och vidareutveckla det. Spring Health hoppas få omfattande feedback från externa parter, vilket bidrar till att ytterligare förbättra bedömningsmetoden.