Indiens IT-Ministerium fordert menschliche Aufsicht bei KI-Zahlungen
Indiens Ministerium für Elektronik und Informationstechnologie (MeitY) hat vorgeschlagen, dass KI-Agenten bei Zahlungen über einem bestimmten Schwellenwert menschliche Kontrollen durchführen müssen. Der Vorschlag zielt auf die Erhöhung der Sicherheit und des Vertrauens ab.
Das indische Ministerium für Elektronik und Informationstechnologie (MeitY) hat über seine Cybersicherheitseinheit CERT-In vorgeschlagen, dass künstliche Intelligenz (KI)-Agenten bei Zahlungsgeschäften, die einen bestimmten finanziellen Schwellenwert überschreiten, menschliche Kontrollen (human-in-the-loop) durchführen müssen. Dieser Vorschlag, der im "Digital Threat Report 2025-26" dargelegt wird, zielt darauf ab, Schutzmaßnahmen für die sich entwickelnden KI-gesteuerten Finanzaktivitäten einzuführen.
Die Einbeziehung eines "Human-in-the-loop"-Mechanismus bedeutet, dass ein Mensch den Arbeitsablauf der KI überwacht oder eingreift, Feedback gibt oder Entscheidungen trifft, um die Genauigkeit zu verbessern und Missbrauch zu verhindern. Dieser Vorschlag kommt zu einer Zeit, in der die National Payments Corporation of India (NPCI), die die Unified Payments Interface (UPI) verwaltet, Berichten zufolge prüft, wie KI-Agenten UPI-Zahlungen durchführen können.
Nikhil Pahwa, Gründer und Herausgeber von MediaNama, betonte die Notwendigkeit, Vertrauen aufzubauen, bevor agentengesteuerte UPI-Zahlungen ermöglicht werden. Er nannte potenzielle Probleme wie Betrug und unbefugte Transaktionen und zog Parallelen zu Vorfällen in anderen Märkten, bei denen Agenten fragwürdige Käufe getätigt haben. Pahwa plädiert für robuste Sicherheitsfunktionen, einschließlich eindeutiger Agenten-Identifikatoren und benutzerdefinierter Transaktionslimits.
Pahwa schlug ferner vor, dass KI-Agenten digitale Brieftaschen anstelle von Bankkonten verwenden und eindeutige, delegierbare Kennungen erhalten sollten. Dieser Ansatz könnte die Verantwortlichkeit und Rückverfolgbarkeit verbessern. Die laufende Entwicklung von Protokollen für den agentengesteuerten Handel durch Unternehmen wie Coinbase und Pine Labs unterstreicht die Richtung der Branche, obwohl Fragen bezüglich Datenschutz und Sicherheit weiterhin bestehen.