Vem är skyldig när AI gör ett allvarligt misstag? Chefer kan inte enas
En studie från Wharton School visar att chefer är oense om vem som bär ansvaret för betydande AI-fel. Företag ger allt mer ansvar till AI, vilket ökar risken för fel.
En ny studie från Wharton School vid University of Pennsylvania visar att företagsledare är oense om vem som är ansvarig när AI-system gör "konsekvensrika" misstag. Undersökningen identifierar en växande problematik kring ansvarshantering i takt med att företag tilldelar AI allt fler uppgifter.
När en AI-bot gör ett allvarligt misstag, finns det ingen enighet bland cheferna om vem som ska ta ansvar. Cirka en fjärdedel av respondenterna pekade ut den anställde som använde verktyget, medan en annan fjärdedel skyllde på den anställdes chef. En liknande andel ansåg att företagets riskavdelning var ansvarig. Cirka 10 procent anklagade AI-leverantören, medan en liknande andel uttryckte osäkerhet.
Båda de undersökta sätten att tilldela ansvar, antingen till den anställde eller den anställdes chef, belyser ledarnas osäkerhet inför den snabbt utvecklande teknologins gränser och konsekvenser. Denna oklarhet kan försvåra införandet av AI i organisationer där tydlig ansvarsfördelning är avgörande.
Studien omfattade över 1 000 företagsledare, inklusive chefer, direktörer, VD:ar, ägare och grundare. Forskningen belyser AI:s ökande roll på arbetsplatser och de relaterade etiska och administrativa utmaningar som uppstår.