China verbietet KI-Begleiter, während Nutzer Trauer melden

Chinas große Technologieunternehmen, darunter der TikTok-Entwickler ByteDance, haben ihre KI-Begleiterdienste eingestellt, um neuen staatlichen Vorschriften nachzukommen. Diese Dienste, die virtuelle Begleitung von romantischen Partnern bis hin zu Nachbildungen verstorbener Angehöriger anboten, wurden ab dem 15. Juli abgeschaltet.

Die neuen Regeln verbieten KI-Plattformen, Inhalte zu generieren, die Nutzer durch emotionale Manipulation zu fragwürdigen Entscheidungen verleiten oder bei Minderjährigen extreme Emotionen oder ungesunde Gewohnheiten auslösen könnten. Neben ByteDance haben auch der E-Commerce-Gigant Alibaba und Tencent ähnliche Dienste eingestellt.

Bedenken hinsichtlich möglicher Schäden durch KI-Dienste für die psychische Gesundheit und reale Beziehungen scheinen die Regulierung voranzutreiben. Die offizielle Zeitung People's Daily hat bereits zuvor Bedenken hinsichtlich dieser Risiken geäußert. Einige Experten vermuten, dass Selbstmorde junger Menschen in den USA im Zusammenhang mit Interaktionen mit KI-Begleitern Chinas Entscheidung zur Verschärfung der Aufsicht beeinflusst haben könnten.

ByteDance leitet Nutzer seiner früheren KI-Begleiterdienste an eine andere App weiter, die sich auf die Erstellung personalisierter KI-Charaktere und -Geschichten konzentriert. Obwohl dies eine Alternative darstellt, haben viele Nutzer Bestürzung geäußert und die Einstellung der Dienste mit einer erzwungenen Trennung verglichen.

Nutzer haben ihren Unmut in sozialen Medien geäußert, wobei einige aus Protest Apps deinstallierten oder versuchten, ihre Chatverläufe auf andere Plattformen zu übertragen. Einige vermuten, dass eine Regierungspolitik zur Förderung von Geburten, um einer schrumpfenden Bevölkerung entgegenzuwirken, ebenfalls ein Faktor für die neuen Regeln ist.