Konsumenter litar inte på AI, men kontrollerar sällan dess svar

En ny undersökning från F-Secure bland konsumenter i USA och Storbritannien avslöjar en paradox i hur människor använder artificiell intelligens. Nästan 90 procent av AI-användarna anser att det är deras ansvar att verifiera de svar som AI ger. Trots detta uppger en betydande majoritet på 70 procent att de endast sällan kontrollerar svaren, även när de använder AI för att fatta beslut med hög insats.

Resultaten tyder på att även om konsumenter är medvetna om potentialen för felaktigheter och partiskhet i AI, så återspeglas inte detta alltid i deras faktiska beteende. Detta kan bero på faktorer som en underliggande tillit till tekniken, tidsbrist eller en tendens att acceptera AI-genererad information som standard.

Undersökningen undersökte också vilka typer av beslut med hög insats som fattas med hjälp av AI. Även om specifika detaljer inte tillhandahölls, väcker omnämnandet av 'beslut med hög insats' oro för potentiellt felaktiga råd inom områden som hälsa, ekonomi eller juridik.

F-Secures forskning understryker behovet av ökad medvetenhet kring riskerna med AI-användning och utvecklingen av verktyg eller metoder som uppmuntrar användare till en mer kritisk granskning. Medan AI erbjuder betydande fördelar, kräver dess ansvarsfulla användning aktiv bedömning och verifiering från användarnas sida.