Design-Expertise bei der KI-Bewertung
Arin Bhowmick, Designchef bei SAP, fordert eine stärkere Einbindung von Designern in die Evaluierung von KI-Systemen, um die Nutzerfreundlichkeit in den Vordergrund zu stellen.
Die Evaluierung von KI-Funktionen ist aktuell weitgehend in den Händen von Softwareentwicklern und Produktmanagern, die sich primär auf datenbasierte Metriken stützen. Arin Bhowmick, Chief Design Officer bei SAP, kritisiert, dass dieser technisch dominierte Ansatz oft die eigentlichen Bedürfnisse der Endanwender vernachlässigt.
Bhowmick argumentiert, dass die Bewertung von KI-Ergebnissen eine qualitative Einschätzung erfordert, die über reine Statistiken hinausgeht. Designer seien darauf spezialisiert, Produkte durch eine menschliche Linse zu betrachten und können so besser beurteilen, ob eine KI-Antwort dem Nutzer tatsächlich weiterhilft oder ob Nuancen wie verständliche Sprache und angemessene Fehlerbehandlung fehlen.
Zudem weist Bhowmick darauf hin, dass viele Probleme bei KI-Evaluierungen eigentlich Designfehler sind. Anstatt lediglich die Modellparameter anzupassen, müsse untersucht werden, ob die Interaktionslogik für den Nutzer verständlich ist. Dies gelinge am besten, wenn Designer bereits bei der Festlegung der Bewertungskriterien eingebunden werden.
Zusammenfassend plädiert Bhowmick dafür, dass Designteams eine aktivere Rolle bei der Definition dessen übernehmen, was bei einer KI als fehlerhaft oder korrekt gilt, um die Benutzerfreundlichkeit von KI-Produkten langfristig sicherzustellen.