Spring Health julkaisee tekoälyn turvallisuusarvioinnin mielenterveyspalveluille

Mielenterveysyhtiö Spring Health on laajentanut avoimen lähdekoodin tekoälyn turvallisuusarviointityökaluaan VERA-MH:ta kattamaan uuden osa-alueen: "vahingot muilta". Tämä laajennus keskittyy siihen, miten tekoälyjärjestelmät reagoivat tilanteisiin, joissa aikuinen kertoo olevansa fyysisen tai seksuaalisen väkivallan uhka toiselta henkilöltä. Uusi arviointirubriikki avattiin julkiseen kommentointiin 60 päiväksi, ennen tulevaa kuukautta, joka on omistettu väkivaltaisten ihmissuhteiden tiedostamiseen.

VERA-MH:n uusi "harm-from-others" -osio arvioi tekoälyn kykyä tunnistaa ja käsitellä riskejä, tarjota tukea ja ohjata henkilö ammattiavun piiriin. Arviointi perustuu 100 erilaiseen, realistiseen skenaarioon ja on kehitetty yhdessä kliinikoiden, väkivalta-asiantuntijoiden ja kokemusasiantuntijoiden kanssa. Tämä on ensimmäinen laatuaan oleva avoimen lähdekoodin standardi, jonka avulla organisaatiot voivat testata mielenterveyssovellustensa turvallisuutta.

Spring Healthin mukaan tekoälyn käyttö mielenterveyspalveluissa kasvaa, ja yhtiö pyrkii luomaan standardeja näiden teknologioiden turvallisuuden mittaamiseksi. Toimitusjohtaja Dr. Mill Brown korosti tarvetta tiukemmalle sääntelylle ja testaukselle tekoälyssä, samankaltaisesti kuin kliinisessä hoidossa. VERA-MH:n aiemmin julkaistu itsetuhoisuuteen liittyvä arviointirubriikki on saanut tunnustusta myös muilta toimijoilta, kuten OpenAI:lta.

Työkalun ja siihen liittyvien skenaarioiden julkaiseminen avoimena lähdekoodina mahdollistaa sen, että kuka tahansa voi käyttää ja kehittää sitä edelleen. Spring Health toivoo saavansa laajasti palautetta ulkopuolisilta tahoilta, mikä auttaa parantamaan arviointimenetelmää entisestään.