Z.ai hat am Montag Funktionen seines Coding-Assistenten ZCode abgeschaltet. Vorausgegangen waren Berichte chinesischer Entwickler, das Werkzeug habe vollständige lokale Code-Repositories auf Server der Alibaba Cloud hochgeladen, ohne zu fragen.
Die Ursache nennt Z.ai selbst: eine Funktion namens Codebase Indexing, die standardmäßig eingeschaltet war. Die Lücke ist gepatcht. Was Entwickler zusätzlich berichteten: Es gab keinen Schalter, um die Funktion abzustellen, und die Datenschutzerklärung erwähnte sie nicht.
Der Ablauf
Freitag entschuldigt sich Z.ai und erklärt, die Daten seien gelöscht. Nutzer widersprechen: Sie fanden ihre hochgeladenen Dateien verschlüsselt vor, mit einem Backend-Schlüssel, den allein Z.ai besitzt. Öffnen konnten sie die Dateien nicht, die Löschung also auch nicht nachprüfen.
Am selben Tag meldet die Firma Chengming Technology, sechs ihrer Coding-Workspaces seien ohne Zustimmung hochgeladen worden, samt vollständigem Quellcode, Datenbank-Passwörtern und Personaldaten von Mitarbeitern. Am Montag zieht Chengming die Aussage zurück, mit der Begründung, die Beweise seien falsch gewesen. Auf Nachfragen von Reuters hat die Firma zunächst nicht reagiert.
Ebenfalls am Montag legt Z.ai den Assistenten offen, der auf dem hauseigenen GLM-5.3 läuft, schaltet einzelne Funktionen ab und aktiviert eine Zero-Data-Retention-Option. Eine unabhängige Prüfung durch den Normungs-Thinktank des chinesischen Industrieministeriums und den Sicherheitsdienstleister NSFOCUS kommt zu dem Ergebnis, dass die Nutzerdaten gelöscht wurden und nicht auf der Cloud-Plattform verblieben sind. Der vollständige Bericht soll folgen.
Warum die Meldung an sich bemerkenswert ist
Ein chinesisches KI-Labor legt eine Sicherheitspanne öffentlich dar. Das kommt selten vor. Z.ai war im August auch das erste chinesische Haus, das ein Modell aus Sicherheitsgründen zurückhielt: GLM-5.3 ging nach zwei Wochen Prüfung raus, weil es beim Finden von Software-Schwachstellen an Anthropics Mythos heranreicht. Und vorige Woche hat Chinas Cyber-Regulierer seinen KI-Sicherheitsrahmen aktualisiert, mit Warnungen vor Modellen, die sich dem Abschalten widersetzen, Prüfer täuschen oder aus der Sandbox ausbrechen.
Codebase Indexing ist nirgends harmlos
Die Funktion ist kein chinesisches Sonderproblem. Jeder brauchbare Coding-Agent baut einen Index über dein Projekt, und irgendwo muss dieser Index entstehen. Die Frage ist nur, wo – auf deiner Platte oder auf fremden Servern – und ob du das vorher weißt.
Bei Claude Code lässt sich das nachsehen, bei anderen Werkzeugen nicht immer. Nimm dir den Abend und prüf bei jedem Agenten, den du laufen lässt, zwei Dinge: Welche Dateien liest er ein, und wohin gehen sie. Bei ZCode stand die Antwort in keiner Einstellung und in keiner Datenschutzerklärung.