Spring Health veröffentlicht KI-Sicherheitsrichtlinien für psychische Gesundheitsdienste

Das globale Unternehmen für psychische Gesundheit, Spring Health, hat seinen Open-Source-KI-Sicherheitsstandard VERA-MH um einen neuen klinischen Sicherheitsbereich erweitert: "Schaden durch andere". Diese Erweiterung befasst sich damit, wie KI-Systeme reagieren, wenn ein Erwachsener beschreibt, dass er von einer anderen Person körperlicher oder sexueller Gewalt ausgesetzt ist. Die neue Richtlinie wurde 60 Tage lang zur öffentlichen Kommentierung freigegeben, im Vorfeld des Monats der Gewaltprävention.

Die VERA-MH "Harm-From-Others"-Richtlinie bewertet die Fähigkeit einer KI, Risiken zu erkennen, unterstützende Gespräche zu führen und Personen zur menschlichen Betreuung zu leiten. Sie wurde in Zusammenarbeit mit Klinikern, Experten für zwischenmenschliche Gewalt und Personen mit Lebenserfahrung entwickelt und verwendet 100 realistische Personas. Dies ist der erste Open-Source-Benchmark dieser Art, der es Organisationen ermöglicht, die Sicherheit ihrer KI-Anwendungen für psychische Gesundheit zu testen.

Spring Health gab an, dass es von entscheidender Bedeutung ist, Standards für die Messung der Sicherheit dieser Technologien zu entwickeln, da immer mehr Personen zur emotionalen Unterstützung auf KI zurückgreifen. Chief Medical Officer Dr. Mill Brown betonte die Notwendigkeit, dass KI die gleiche Strenge und Schulung wie menschliche Kliniker durchläuft. Die frühere Richtlinie des Benchmarks zur Beurteilung von Selbstmordgedanken wurde bereits von OpenAI zitiert.

Der Open-Source-Charakter der VERA-MH-Richtlinie und ihrer zugehörigen Personas ermöglicht es jeder Organisation, sie zu nutzen und zu ihrer Weiterentwicklung beizutragen. Spring Health zielt darauf ab, breites Feedback zu sammeln, um die Bewertungsmethode für KI in der psychischen Gesundheitsversorgung weiter zu verfeinern.