Företag ökar automationen trots AI-misstag
Trots att företag drabbats av AI-misstag, ökar de automationen och minskar mänsklig granskning vid AI-implementeringar. Ny forskning visar en klyfta mellan förtroende och verklighet.
En ny undersökning från VentureBeat Intelligence visar att företag som tidigare upplevt problem med sina AI-system i produktion nu påskyndar minskningen av mänsklig inblandning i implementeringsbeslut. Detta sker parallellt med en ökning av förtroendet för automatiserade utvärderingsprocesser.
I undersökningen uppgav 13% av 108 företag att de litar på automatiserade utvärderingar i juli, en markant ökning från 5% månaden innan. Samtidigt minskade andelen som oroade sig för bristande överensstämmelse mellan tester och verkliga resultat med 10 procentenheter till 19%. Trots detta rapporterade 49% av företagen att en AI-funktion som klarat testerna ändå orsakade synliga problem för kunderna – en siffra som var nära oförändrad.
Situationen är motsägelsefull: företag som upplevt problem med AI-system som klarat testerna är mer benägna att tvivla på den automatiska granskningsprocessen. Trots detta driver 85% av dessa "brända" företag automation av implementeringen utan mänskligt godkännande, jämfört med endast 61% av företag som inte haft liknande problem. Detta tyder på att företag ökar automationen som svar på misstag, möjligen för att förbättra implementeringsmognaden.
Enligt undersökningen går företag som drabbats av misstag snabbare mot en modell där implementeringar sker utan mänskligt godkännande. Endast 11% av dessa företag motsätter sig helt automatiserad implementering framöver, jämfört med 24% av dem som inte haft problem. Denna utveckling indikerar en tydlig trend mot ökad autonomi i AI-system.