Indien drängt auf Beschleunigung eines KI-Tools zur Erkennung von Kindesmissbrauchsmaterial
Indiens Kinderschutzbehörde (NCPCR) soll die Entwicklung eines KI-Tools zur proaktiven Erkennung von Kindesmissbrauchsmaterial im Internet beschleunigen.
Indiens Ministerin für Frauen und Kindesentwicklung, Annapurna Devi, hat die Nationale Kommission zum Schutz der Kinderrechte (NCPCR) angewiesen, zwei Initiativen zum Kinderschutz zu beschleunigen. Dazu gehören ein KI-gestütztes Werkzeug zur Erkennung von Material mit sexuellem Missbrauch und Ausbeutung von Kindern (CSEAM) im Internet sowie Social-Media-Richtlinien für Technologieunternehmen. Die Ministerin bezeichnete beides als dringende Prioritäten bei einer Überprüfung am 13. Oktober.
Das KI-Erkennungswerkzeug zielt darauf ab, CSEAM proaktiv online zu identifizieren, anstatt sich auf Beschwerden zu verlassen. Die NCPCR entwickelt das Werkzeug in Zusammenarbeit mit dem Ministerium für Elektronik und Informationstechnologie (MeitY). Spezifische Details zum Startdatum des Werkzeugs, zu technischen Spezifikationen, abgedeckten Plattformen oder Verfahren zur Meldung und Entfernung wurden nicht bekannt gegeben.
Zusätzlich entwickelt die NCPCR Social-Media-Richtlinien für Technologieunternehmen. Der Vorsitzende der Kommission, V. Prem Chand, informierte die Ministerin über diese Initiative, jedoch bleiben Inhalt, Rechtsstatus oder voraussichtliches Ausgabedatum dieser Richtlinien unklar. Die Ministerin drängte auf die zügige Umsetzung beider Initiativen.
Die Ministerin betonte außerdem, dass Beschwerden, die bei der NCPCR eingehen, "sensibel, verantwortungsbewusst und zügig" bearbeitet werden sollten, mit voller Unterstützung für die Beschwerdeführer. Eine administrative Anweisung wurde ebenfalls erlassen, um alle ausstehenden Akten bis zum 31. Dezember 2026 abzuschließen.
Dieser Vorstoß folgt auf monatelange Überprüfungen von Plattformen bezüglich des Kinderschutzes. Die NCPCR hat zuvor Meta untersucht, und indische Behörden ordneten an, dass Instagram Anzeigen mit CSEAM-Bezug abgeschaltet werden. Beamte haben auch gefordert, dass große Social-Media-Plattformen Maßnahmen wie elterliche Zustimmung für Minderjährige und Benutzeridentifizierung einführen.