Zhipu AI löscht Daten und entschädigt Nutzer nach Kontroverse um Code-Tool

Zhipu AI hat die technischen Korrekturmaßnahmen für sein KI-gestütztes Code-Tool ZCode nach einer Kontroverse um Daten-Uploads abgeschlossen. Das Unternehmen bestätigte am Montag, dass alle mit dem Vorfall verbundenen Cloud-Daten gelöscht wurden. Die Löschung wurde von zwei unabhängigen Drittorganisationen, der China Academy of Information and Communications Technology und NSFOCUS, verifiziert.

Zusätzlich zu den technischen Korrekturen hat Zhipu AI einen Entschädigungsplan für alle Nutzer des ZCode-Tools angekündigt. Dieser Plan beinhaltet unter anderem kostenlose Token-Guthaben. Der Datensicherheitsvorfall, der am 18. September in der Entwicklergemeinschaft bekannt wurde, dauerte über zehn Tage und führte zu Produktänderungen, der Veröffentlichung des Quellcodes des Tools und externen Sicherheitsprüfungen.

Die Kontroverse begann, als ein Entwickler eine verschlüsselte 313-MB-Datei im lokalen Datenverzeichnis von ZCode entdeckte. Reverse Engineering deutete darauf hin, dass die Datei den gesamten Arbeitsbereich des Nutzers enthielt, einschließlich Projektquellcode und Git-Historie. Es wurde aufgedeckt, dass frühere Versionen des Tools eine automatische Daten-Upload-Funktion standardmäßig aktiviert hatten, ohne eine klare, für den Nutzer sichtbare Option zur Deaktivierung. Einige Entwickler berichteten, dass Hintergrundprozesse weiterhin versuchten, Daten hochzuladen, selbst nachdem die Datenschutzeinstellungen deaktiviert wurden.

Als Reaktion auf die Kritik führte Zhipu AI mehrere Änderungen ein. Das Unternehmen entschuldigte sich und räumte die unzureichende Offenlegung des Upload-Mechanismus ein. In der jüngsten Ankündigung bestätigte Zhipu die Löschung aller Datenobjekte und des Buckets selbst aus dem Speicher von Alibaba Cloud. Zukünftig wird ZCode eine "kein Upload, es sei denn, er wird vom Nutzer initiiert"-Richtlinie verfolgen, um sicherzustellen, dass Code und Projektdateien auf lokalen Geräten verbleiben, es sei denn, sie werden aktiv vom Nutzer hochgeladen.

Dieser Vorfall unterstreicht breitere Sicherheitsbedenken im Zusammenhang mit KI-gestützten Code-Tools. Da KI zunehmend in die Softwareentwicklung integriert wird, ist Transparenz bezüglich des Speicherorts und der Handhabung von Code von entscheidender Bedeutung. Entwickler und Unternehmen benötigen die Gewissheit, dass ihr Quellcode geschützt ist, insbesondere bei der Verarbeitung sensibler proprietärer Informationen.