Smarta AI-assistenter hålls delvis ansvariga

En ny studie från Ludwig-Maximilians-Universität München (LMU) indikerar att människor tenderar att tillskriva smarta AI-assistenter en viss grad av ansvar för utfall, trots att de primärt betraktas som verktyg. Forskningen, som involverade 940 deltagare, undersökte hur människor bedömde ansvaret hos AI-assistenter som användes av mänskliga förare.

Resultaten visade en ambivalens: deltagarna ansåg enhälligt att de smarta assistenterna var verktyg, men de ansåg dem också vara delvis ansvariga för både framgångar och misslyckanden som uppstod när föraren använde dem. Denna ansvarsfördelning observerades inte när deltagarna bedömde en icke-AI-baserad navigationsinstrument.

Studien fann vidare att AI-assistenterna ansågs vara mer ansvariga för positiva resultat än för negativa. Forskarna föreslår att detta kan bero på att människor tillämpar olika moraliska standarder för beröm och klander, där det är lättare att ge erkännande till icke-mänskliga system än att utkräva ansvar.

Forskningen, ledd av Louis Longin vid LMU:s institution för medvetandefilosofi, undersökte även om typen av assistent (verbal eller taktil) spelade roll, och fann ingen signifikant skillnad. Forskarna menar att dessa rön har betydelse för design och social diskurs kring AI-assistenter, och uppmanar utvecklare att beakta hur sociala och moraliska normer påverkas.