Nasscom fordert Änderungen an Entwurf der KI-Regeln des Obersten Gerichtshofs

Nasscom, der indische Branchenverband, hat dem Obersten Gerichtshof Empfehlungen zu dessen Entwurf von Vorschriften für den Einsatz von Künstlicher Intelligenz (KI) vor Gerichten vorgelegt. Zu den Kernforderungen gehören eine präzisere Definition von KI-Anwendungen mit hohem Risiko und die Zusicherung, dass technische Audits nicht automatisch die Offenlegung des Quellcodes erfordern.

Die KI-Kommission des Obersten Gerichtshofs veröffentlichte den Entwurf Anfang Juni und bat um Stellungnahmen. Die vorgeschlagenen Regeln sollen den Einsatz von KI auf allen Gerichtsebenen für juristische Recherche, Transkription, Übersetzung und Fallmanagement regeln. Entscheidungsfindung, Urteilsfindung und Glaubwürdigkeitsbewertung bleiben jedoch Richtern vorbehalten.

Nasscom wies darauf hin, dass der Entwurf Begriffe wie "erhebliche Schadensrisiken" und "Hochrisikoanwendungen" nicht definiert. Die Organisation betonte, dass klarere Definitionen und beispielhafte Erläuterungen zur Risikokategorisierung den Gerichten helfen würden, KI-Systeme konsistenter zu bewerten und einzusetzen.

Darüber hinaus äußerte Nasscom Bedenken hinsichtlich der Vorschrift zu technischen Audits. Der Verband befürchtet, dass die Regel so interpretiert werden könnte, dass Gerichte Zugang zum Quellcode von KI-Systemen erhalten. Dies sei problematisch, insbesondere wenn Gerichte KI-Dienste von Drittanbietern nutzen, deren Quellcode typischerweise nicht offengelegt wird. Nasscom schlägt vor, dass sich Audits auf die Zuverlässigkeit, Sicherheit und Erklärbarkeit des Systems konzentrieren sollten, wobei eine tiefere Quellcode-Analyse ausschließlich Hochrisiko- oder maßgeschneiderten Systemen vorbehalten bleiben sollte.

Diese vorgeschlagenen Änderungen spiegeln eine breitere Debatte über die Risiken und Vorteile der KI-Regulierung im Justizsystem wider, wobei sowohl Branchenakteure als auch Organisationen von Rechtsberufen unterschiedliche Bedenken geäußert haben.