SEBI: KI für Überwachung, nicht für Entscheidungen

Tuhin Kanta Pandey, Vorsitzender der indischen Wertpapier- und Börsenaufsichtsbehörde (SEBI), hat klargestellt, dass künstliche Intelligenz (KI) zur Überwachung der Finanzmärkte eingesetzt werden kann, ihre Rolle bei der Entscheidungsfindung jedoch eingeschränkt werden sollte.

Auf dem Global Fintech Fest 2026 betonte Pandey, dass eine KI-generierte Warnung an sich keine Feststellung sei und dass Durchsetzung und Urteilsfindung nicht an „Black Boxes“ delegiert werden könnten. SEBI setzt KI bereits für Funktionen wie Cybersicherheitskonformität und Überwachung sozialer Medien ein, betonte jedoch, dass letztendliche regulatorische Entscheidungen menschliche Aufsicht erfordern.

SEBI zielt darauf ab, KI zur prädiktiveren Überwachung einzusetzen. Laut Pandey kann KI große Datensätze verarbeiten, Muster erkennen und die Aufmerksamkeit der Aufsicht auf aufkommende Risiken lenken. Dies ermöglicht einen Übergang von periodischen Prüfungen zu kontinuierlicher Echtzeitüberwachung, die oft extern durchgeführt wird.

Pandey warnte jedoch davor, dass die bloße Anwesenheit eines Menschen in der Entscheidungsfindung nicht ausreicht, da Menschen Maschinen übermäßig vertrauen könnten. Er hob die Notwendigkeit einer kompetenten, befugten und rechenschaftspflichtigen Aufsicht hervor. Schutzmaßnahmen müssen KI-Modelle und ihre Implementierung abdecken, einschließlich Erklärbarkeit, Validierung, kontinuierlicher Tests, Datenqualität und Kontrolle von Verzerrungen.

Pandey warnte auch davor, dass KI Konzentrationsrisiken an den Finanzmärkten schaffen könnte, wenn mehrere Unternehmen auf gemeinsame Modelle oder Cloud-Infrastruktur angewiesen sind, die zu gemeinsamen Fehlerquellen werden könnten. Regulatorische Verantwortung kann nicht an Technologieanbieter ausgelagert werden, und kritische technologische Abhängigkeiten dürfen keine regulatorischen blinden Flecken werden.