Designers roll i utvärderingen av AI-system
Arin Bhowmick, designchef på SAP, betonar behovet av att inkludera designers i utvärderingsprocessen för AI för att säkerställa att produkterna möter användarnas faktiska behov.
Utvärderingen av AI-funktioner domineras i dagsläget av ingenjörer och produktchefer som fokuserar på tekniska mätetal. Arin Bhowmick, Chief Design Officer på SAP, lyfter fram att denna praxis riskerar att leda till tekniskt fungerande produkter som brister i användarupplevelse och relevans.
Enligt Bhowmick kräver bedömningen av vad som utgör ett "bra" AI-svar både smak och omdöme, kompetenser som designers utvecklar genom daglig användarkontakt. Utan ett användarfokuserat perspektiv riskerar utvärderingar att missa viktiga detaljer, såsom hur systemet hanterar osäkerhet eller hur det kommunicerar felaktig information till slutanvändaren.
Bhowmick pekar på att många problem som framkommer vid utvärdering egentligen är designfrågor snarare än tekniska brister i själva språkmodellen. Att involvera designers tidigt i processen kan därmed bidra till att identifiera grundläggande användbarhetsproblem som inte kan lösas genom att enbart justera algoritmer.
Sammanfattningsvis föreslår Bhowmick att designledare aktivt bör delta i utformningen av utvärderingskriterier. Att förstå vilka typer av fel en användare kan tolerera är en central del av produktdesign som bör integreras i testfasen av AI-utveckling.