Kinderrechtskommission lädt Google wegen KI-Apps vor

Indiens Nationale Kommission zum Schutz der Kinderrechte (NCPCR) hat Google zu einem Treffen für Ende des Monats einberufen. Anlass sind KI-Anwendungen im Play Store, die intime Videos unter Verwendung von Fotografien realer Personen ohne deren Zustimmung erstellen.

Einige dieser Apps trugen Altersfreigaben, die sie bereits für dreijährige Kinder als geeignet einstuften. Sanjeev Sharma, Sekretär der NCPCR, kündigte an, dass die Kommission bis Dezember Richtlinien zur Kindersicherheit für Social-Media-, Spiele- und KI-Plattformen veröffentlichen wird.

Diese KI-Apps, bekannt als "AI kiss and hug"-Apps, ermöglichen es Nutzern, Fotos hochzuladen, die dann von der KI bearbeitet werden, um Videos von Umarmungen oder Küssen zu erstellen. Berichte von Anfang 2026 zeigten Dutzende solcher Apps im Google Play Store in Indien, wobei einige über eine Million Downloads erreichten.

Die generierten Videos trugen keine Kennzeichnung als KI-generiert, und Datenschutzrichtlinien einiger Apps enthielten Hinweise auf die Weitergabe von Nutzerdaten, einschließlich Fotos und Geräte-IDs, an Dritte. Obwohl Google einige Apps entfernt hat, waren andere, wie "AI Kiss & Hug Video Maker", im Oktober 2026 mit Tausenden von Downloads und einer Altersfreigabe ab 3 Jahren weiterhin verfügbar.

Neue IT-Regeln in Indien fordern eine Kennzeichnung synthetisch generierter Inhalte, die Anwendbarkeit auf reine Content-generierende Apps ist jedoch unklar. Die NCPCR priorisiert Richtlinien gegenüber Gesetzen, um eine schnellere Umsetzung zu erreichen, und entwickelt zudem ein KI-Tool zur Erkennung von kinderpornografischem Material.