Indiens IT-ministerium föreslår mänsklig inblandning i AI-betalningar
Indiens IT-ministerium (MeitY) föreslår obligatoriska mänskliga kontrollåtgärder i AI-styrda betalningstransaktioner över en viss tröskel. Förslaget syftar till att öka säkerheten och förtroendet i det snabbt växande området för AI-drivna betalningar.
CERT-In, IT-ministeriets cyberenhet, har föreslagit obligatoriska "human-in-the-loop" (mänsklig inblandning) kontroller för AI-agenter som utför betalningstransaktioner över definierade finansiella tröskelvärden. Förslaget, som presenteras i rapporten "Digital Threat Report 2025-26", syftar till att införa säkerhetsåtgärder i den växande marknaden för AI-drivna finansiella tjänster.
I sammanhanget AI innebär "human-in-the-loop" att en människa övervakar eller ingriper i AI-systemets arbetsflöde. Dessa personer kan ge feedback, korrigera fel eller fatta finansiella beslut för att förbättra AI-systemens noggrannhet och tillförlitlighet. Förslaget kommer samtidigt som rapporter indikerar att AI-agenter kan komma att tillåtas utföra UPI-betalningar (Unified Payments Interface) i Indien, ett system som drivs av National Payments Corporation of India (NPCI).
Nikhil Pahwa, grundare och redaktör för MediaNama, betonar vikten av att bygga förtroende innan AI-styrda UPI-betalningar lanseras. Han varnar för potentiella risker, inklusive bedrägerier och missbruk, och hänvisar till fall i USA där agenter har genomfört oönskade köp utan full förståelse eller samtycke. Pahwa föreslår tydliga skyddsåtgärder, såsom användning av unika identifierare för agenter, separata PIN-koder och möjligheten för användare att ställa in strikta transaktionsgränser.
Pahwa föreslår också att AI-agenter bör använda digitala plånböcker istället för bankkonton och att de bör tilldelas egna, delegerbara handtag. Sådana åtgärder skulle förbättra spårbarhet och ansvarsskyldighet. Flera företag, inklusive Coinbase (med sin x402-protokoll) och Pine Labs (med sitt P3P-protokoll), utvecklar redan liknande system för att möjliggöra autonom AI-handel, men utmaningar kring datadelning och säkerhet kvarstår.