Intian IT-ministeriö vaatii ihmisvalvontaa tekoälyn maksutapahtumiin

Intian IT-ministeriön kyberturvallisuusyksikkö CERT-In on ehdottanut pakollisia ihmisen valvontatoimia tekoälyagenttien suorittamiin maksutapahtumiin, kun ne ylittävät määritellyn rahasumman. Ehdotus esitettiin vuoden 2025-26 Digital Threat Report -raportissa, ja sen tavoitteena on parantaa turvallisuutta ja ehkäistä väärinkäytöksiä mahdollisissa tulevissa tekoälypohjaisissa maksujärjestelmissä.

Tekoälyn yhteydessä "ihminen silmukassa" (human-in-the-loop) tarkoittaa järjestelmää, jossa ihminen valvoo tai osallistuu tekoälytyönkulkuun. Nämä ihmiset voivat antaa palautetta, korjata virheitä tai tehdä taloudellisia päätöksiä tekoälyn tarkkuuden ja luotettavuuden parantamiseksi. Ehdotus on merkittävä, sillä se tulee ajankohtana, jolloin Intian maksuliikenteen kehittäjä NPCI (National Payments Corporation of India) tutkii tekoälyagenttien käyttöä UPI-maksuissa (Unified Payments Interface).

Medianaman perustaja ja päätoimittaja Nikhil Pahwa korostaa, että luottamuksen rakentaminen on ensiarvoisen tärkeää ennen tekoälyagenttien laajempaa käyttöönottoa UPI-maksuissa. Hän varoittaa mahdollisista ongelmista, kuten huijauksista ja väärinkäytöksistä, mainiten tapauksia Yhdysvalloista, joissa agentit ovat tehneet epäilyttäviä ostoksia ilman täyttä ymmärrystä tai suostumusta. Pahwa ehdottaa selkeitä turvatoimia, kuten agenttien omien tunnisteiden käyttöä, erillisiä PIN-koodeja ja käyttäjien mahdollisuutta asettaa tiukkoja transaktiorajoituksia.

Pahwa esittää myös, että tekoälyagenttien tulisi käyttää lompakoita pankkitilien sijaan ja että heille tulisi antaa omat delegoitavat tunnisteet. Tällaiset toimenpiteet auttaisivat jäljitettävyydessä ja vastuullisuudessa. Alalla useat yritykset, kuten Coinbase (x402-protokolla) ja Pine Labs (P3P-protokolla), kehittävät jo vastaavia ratkaisuja mahdollistaakseen autonomisen tekoälykaupankäynnin, mutta kysymyksiä datan jakamisesta ja turvallisuudesta on vielä ratkaistavana.