OpenAI startet Benchmark für KI im Bereich psychischer Gesundheit

Das Unternehmen für künstliche Intelligenz, OpenAI, hat am 23. September MentalHealthBench vorgestellt. Dieses offene Benchmark dient zur Bewertung, wie KI-Systeme auf realistische Gespräche zur psychischen Gesundheit reagieren. Ziel ist es, die Leistung der KI in verschiedenen Szenarien zu testen, von alltäglichen Unterhaltungen bis hin zu Notfällen.

OpenAI gibt an, das Benchmark in Zusammenarbeit mit über 80 lizenzierten Fachleuten für psychische Gesundheit aus 22 Ländern entwickelt zu haben. Es verwendet synthetische Chat-Daten, die eine Bandbreite von Situationen abdecken, einschließlich Gesprächen mit Erwachsenen und Jugendlichen, Interaktionen mit Betreuern und klinischen Umgebungen, und das über mehrere Sprachen und Regionen hinweg.

Zur Bewertung der KI-Modelle anhand von Expertenkriterien setzte das Unternehmen eine automatisierte Bewertungssoftware namens GPT-5.6 Sol ein. Eine begleitende Studie mit 44 Erwachsenen aus 16 Ländern, die KI zur emotionalen Unterstützung genutzt hatten, zeigte unterschiedliche Prioritäten: Nutzer legten mehr Wert auf Tonfall und praktische Ratschläge, während Experten die Sammlung von Kontext und die sorgfältige Interpretation von Mehrdeutigkeiten betonten.

Diese Veröffentlichung folgt auf OpenAIs jüngste Bemühungen zur Verbesserung von KI-Antworten in sensiblen Gesprächen und zur Einführung von Funktionen wie Trusted Contact in ChatGPT. Sie erfolgt auch vor dem Hintergrund einer verstärkten regulatorischen Aufmerksamkeit für digitale Werkzeuge im Bereich psychischer Gesundheit und rechtlicher Auseinandersetzungen bezüglich der Auswirkungen von KI.