Banker varnar för AI-drivna shoppingagenter: ökad risk för bedrägeri och dataintrång

Flera stora banker, bland annat Bank of America och NatWest, har uttryckt oro över de potentiella riskerna med AI-assistenter som genomför onlineköp för konsumenter. Rapporter indikerar att användningen av AI-agenter kan öka risken för bedrägerier, bluff och dataläckor av personlig information betydligt.

Teknikföretag som OpenAI, Google och Meta utvecklar aktivt AI-chattbotar för kommersiella ändamål. Målet är att konsumenter i framtiden ska kunna låta AI-agenter välja produkter och göra beställningar direkt. I takt med denna utveckling försöker återförsäljare påverka vilka produkter som rekommenderas av AI.

Enligt rapporterna har användningen av AI inom e-handeln ökat snabbt. Brittiska varuhuset John Lewis rapporterar att andelen sökningar från AI-agenter har ökat från 0,3 % till 2,5 % under det senaste året, med en accelererande takt. Denna utveckling väcker oro för att teknologin utvecklas snabbare än branschstandarder och mekanismer för konsumentskydd.

Bankerna har lyft fram farhågor om att konsumenter kanske inte vet om AI verkligen agerar i deras bästa intresse. Potentiella risker inkluderar felaktiga köp, överdriven konsumtion och till och med ekonomiska förluster till följd av bedrägerier. Det är också oklart hur konsumenter skyddas och vem de ska vända sig till vid problem.

Flera banker planerar diskussioner med lagstiftare om förslag som syftar till att öka transparensen kring AI:s inblandning och stärka dataskyddet. Detta inkluderar krav på tydliggörande om AI-agenters inblandning, ökad transparens i beslutsprocesser och robusta mekanismer för skydd av kunddata.