AI:s misstag avslöjar försvagade mänskliga färdigheter

När AI-system fungerar felfritt under långa perioder kan människors roll i övervakningen förändras. Forskning visar att även om AI presterar bra, kan människors förmåga till självständigt omdöme och ingripande vid fel minska.

Detta fenomen, kallat "latent risk", beskriver en situation där en organisation fortfarande är beroende av människors förmåga att ingripa, men kanske inte märker att denna förmåga försvagas. Även om AI kan öka effektiviteten, kan det samtidigt minska människors övning i att fatta kritiska beslut.

Situationen är inte helt ny utan bygger på tidigare forskning om automation. AI:s roll växer dock, då den tar över analys- och beslutsfattande uppgifter som tidigare utfördes av människor. Detta förändrar arbetets natur: medarbetaren går från att utföra uppgifterna till att övervaka dem.

Till exempel har revisionsföretaget Deloitte börjat reformera sin utbildning då AI automatiserar delar av det traditionella arbetet. Målet är att säkerställa att praktikanter fortfarande utvecklar det omdöme som krävs. Samtidigt uppstår frågan om ansvar och situationer där AI misslyckas – vem bär ansvaret om människans förmåga att ingripa har försvagats?