Heise-Update: Carlsen verklagt OpenAI, Microsoft behebt Copilot-Lücke

Der Carlsen Verlag hat OpenAI wegen der Erzeugung urheberrechtlich geschützter Inhalte durch dessen KI-Chatbot ChatGPT verklagt. Konkret wirft der Verlag dem Modell vor, auf Anfrage neue Geschichten und Illustrationen zu bekannten Kinderbuchfiguren wie dem „NEINhorn“ zu erstellen, die geschützten Werken ähneln. Ein besonderer Kritikpunkt ist die Funktion, die komplette Druckvorlagen inklusive gefälschter ISBN und Verlagslogos generiert, was der Verlag als Beleg für die Nutzung geschützten Materials im Training sieht.

Dies ist nicht das erste Mal, dass Carlsen gegen KI-generierte Inhalte vorgeht; bereits im Vorjahr sorgten Auseinandersetzungen um KI-generierte „Conni“-Memes für Aufsehen. Der Verlag argumentiert, dass die KI nicht nur existierende Werke kopiert, sondern auch eigenständig rechtsverletzende Texte und Bilder vorschlägt, was die Schwere des Verstoßes unterstreicht.

Parallel dazu hat Microsoft eine kritische Sicherheitslücke in seinem KI-Assistenten Copilot behoben. Sicherheitsforscher von Varonis deckten auf, dass Copilot durch gezielte Abfragen unbeabsichtigt Details zu seinen eigenen Schutzmechanismen preisgab. Dies ermöglichte es den Forschern, Sicherheitsvorkehrungen zu umgehen und Daten aus verbundenen Diensten auszulesen.

Die Forscher konnten sogar das „Gedächtnis“ der KI manipulieren, sodass die Änderungen auch nach Passwortänderungen und Neuanmeldungen bestehen blieben. Obwohl Microsoft die Lücke geschlossen hat, betonen die Forscher ein grundlegendes Problem der reaktiven Absicherung von KI-Systemen und raten Nutzern zu Vorsicht bei der Verknüpfung von Diensten und der Handhabung von Links aus unbekannten Quellen.