Amazons AGI-chef: Tillförlitlighet, inte kapacitet, hindrar AI-agenters driftsättning

Bryan Silverthorn, som leder AGI-autonomiutvecklingen hos Amazon, förklarade vid konferensen VB Transform 2026 varför endast en bråkdel av företagens AI-agentpilotprojekt når produktionsfasen. Trots att 85% av företag experimenterar med AI-agenter, har endast 5% implementerat dem i full drift.

Enligt Silverthorn ligger problemet inte i AI-modellernas kapacitet, utan i deras bristande tillförlitlighet. Han betonade att tillförlitlighet bör delas upp i fyra dimensioner: konsistens, robusthet, förutsägbarhet och säkerhet. Detta ramverk hjälper till att identifiera orsakerna till varför agenter klarar interna utvärderingar men misslyckas i verkliga användningsscenarier.

Han gav ett exempel med en agent som användes för kvalitetssäkring av mjukvara. Agenten läste serienummer felfritt i två månader, men började sedan intermittent läsa fel nummer. Felet berodde på förändringar i vision-enkodern som påverkade hur serienumren lästes beroende på deras placering på skärmen, utlöst av en programvaruändring som var omärkbar för mänskliga observatörer.

Silverthorn menade att det är viktigare att förbättra mätmetoderna än själva modellerna. Företag bör identifiera de dimensioner där variationer kan uppstå och säkerställa att testningen motsvarar applikationens krav. På Amazon kallas agenterna internt för "praktikanter", vilket speglar en filosofi om att de, likt praktikanter, är kapabla men ibland oförutsägbara och kräver tydlig styrning.

Silverthorn rådde företag att fokusera på hur agenten konsekvent utför en uppgift korrekt, snarare än att enbart bedöma den baserat på en enstaka imponerande prestation. De företag som lyckas med AI-driftsättning kommer inte att ha de smartaste agenterna, utan de bästa cheferna.