Anthropic-ingenjör varnar för ”kognitiv kapitulation” vid AI-användning

Addy Osmani, ingenjör vid Anthropic och tidigare teknisk chef på Google, har publicerat en analys rörande riskerna med avancerad AI-automatisering. Han identifierar fenomenet ”kognitiv kapitulation”, där användare slutar granska AI-genererade resultat och istället accepterar dem som sanning, vilket minskar den mänskliga förmågan att förstå komplexa logiska system.

Enligt Osmani sker denna process gradvis i tre stadier: från att använda AI som ett stödverktyg till att helt förlita sig på modellens bedömningar. I mjukvarubranschen innebär detta att utvecklare kan producera fungerande kod utan att faktiskt förstå hur arkitekturen är uppbyggd, vilket skapar en form av kognitiv skuld som kan bli problematisk vid framtida systemändringar.

För att motverka detta föreslår Osmani att användare formulerar egna hypoteser innan de rådfrågar AI och att de aktivt letar efter felaktigheter i modellens utdata. Han understryker att trots att AI kan hantera utförandet av uppgifter, ligger ansvaret för den slutgiltiga valideringen och beslutsfattandet kvar hos människan.