Indiens finansinspektion stramar åt regelverket för AI inom kapitalmarknaden
SEBI planerar nya riktlinjer för artificiell intelligens inom finanssektorn med krav på transparens och mänsklig tillsyn.
Den indiska finansinspektionen, Securities and Exchange Board of India (SEBI), förbereder ett nytt regelverk för ansvarsfull användning av artificiell intelligens på kapitalmarknaden. Ordförande Tuhin Kanta Pandey meddelade vid ett branschevenemang i New Delhi att nya riktlinjer är att vänta för att säkerställa marknadens integritet och investerarskydd.
De kommande reglerna fokuserar på tre huvudområden: obligatorisk transparens, strikt ansvarsutkrävande för reglerade enheter samt kravet på att en människa alltid ska vara involverad i kritiska beslutsprocesser. Myndigheten betonar att finansinstitut bär det fulla ansvaret för de AI-verktyg de implementerar, även i fall där tekniken tillhandahålls av externa leverantörer.
SEBI har identifierat systemiska risker kopplade till tekniken, såsom spridning av desinformation via deepfakes, risken för marknadsmanipulation och faran med att många aktörer använder likartade algoritmer som kan leda till kollektivt beteende. För att möta dessa utmaningar har SEBI utvecklat egna övervakningssystem, däribland verktyget Sudarsan, som används för att identifiera bedrägerier i sociala medier.
Pandeys utspel markerar en skärpt hållning där man betonar att inbyggd kontroll i AI-system inte ersätter behovet av kompetent och bemyndigad mänsklig granskning. Förutom AI-frågan utvärderar SEBI även sårbarheter kopplade till framtida kvantdatorer och behovet av mer robust cybersäkerhet inom finanssektorn.