CERT-In veröffentlicht Richtlinien zur Sicherheitsprüfung von KI-Systemen in Indien

Die indische Computer-Notfallreaktionseinheit (CERT-In) hat verbindliche Richtlinien für die Prüfung von KI-Sicherheit vorgestellt. Das Rahmenwerk betrifft alle Unternehmen, die in Indien KI-Systeme entwickeln, implementieren oder betreiben, sofern diese KI-Dienste für Nutzer im Land erbringen oder Daten verarbeiten.

Die Audits erstrecken sich über neun Kernbereiche, darunter Cybersicherheit, Datenintegrität, ethische Aspekte und das Risikomanagement der Modelle. Die Prüftiefe hängt dabei von einer vierstufigen Risikoklassifizierung ab, die Faktoren wie die Autonomie des Systems und die Sensibilität der Daten berücksichtigt. Bei Systemen mit hohem oder kritischem Risiko ist eine regelmäßige, unabhängige Prüfung durch zertifizierte Prüfer erforderlich.

Ein wesentlicher Bestandteil ist die vorgeschriebene menschliche Aufsicht. Unternehmen müssen nachweisen, dass ihre KI-Systeme angemessene Eingriffsmöglichkeiten für Menschen bieten und Entscheidungen im Bedarfsfall überprüfbar sind. Zudem müssen Mechanismen zur Anfechtung von KI-gestützten Ergebnissen implementiert werden.

Die neuen Vorgaben verpflichten Organisationen zu einer strukturierten Fehlerbehebung innerhalb vorgegebener Fristen. Mit diesem Schritt reagiert die Behörde auf die zunehmende Verbreitung von Large Language Models und autonomen Systemen in kritischen Infrastrukturen.