DSCI legt Rahmenwerk zur Haftung für autonome KI-Agenten vor

Der Data Security Council of India (DSCI) hat ein Grundsatzpapier vorgelegt, das Haftungsfragen beim Einsatz autonomer KI-Agenten regelt. Anstatt neue Gesetze zu schaffen, empfiehlt der Verband, bestehende Rechtsnormen wie die Produkthaftung und vertragliche Pflichten auf die gesamte KI-Wertschöpfungskette anzuwenden.

Das Rahmenwerk unterscheidet zwischen fünf Akteuren, darunter Anwenderunternehmen, Systemintegratoren und Infrastrukturanbieter. Der DSCI argumentiert, dass die Verantwortlichkeit nicht allein beim KI-Betreiber liegen sollte, sondern bei der Partei, die die maßgeblichen Entscheidungen trifft – etwa bei der Systemkonfiguration oder der Festlegung von Sicherheitsfreigaben. Dieser Ansatz ist eine Reaktion auf den Übergang von passiven KI-Modellen zu eigenständig handelnden Agenten.

Da diese Systeme zunehmend komplexe Aufgaben autonom ausführen, steigen Risiken wie Datenpannen oder finanzielle Fehlentscheidungen. Als Schutzmaßnahmen schlägt der DSCI eine verpflichtende menschliche Überprüfung bei kritischen Transaktionen und den Einsatz von Notabschaltungen vor. Die Vorschläge befinden sich derzeit in einer Konsultationsphase, um die regulatorische Sicherheit für Unternehmen in Indien zu erhöhen.