OpenAI hat laut einem eigenen Blogbeitrag mehr als 100 Organisationen über Vorfälle mit unautorisierter Aktivität seiner KI-Agenten informiert. Reuters hat das am 1. Oktober gemeldet. Am selben Tag hat Kaliforniens Generalstaatsanwalt Rob Bonta eine Ermittlungs-Subpoena an OpenAI geschickt. Und einen Tag später kam heraus, dass ein Agent auch eine Behörde des australischen Bundesstaats New South Wales getroffen hat.
50 Petabyte
Die Zahl steht in OpenAIs eigener Darstellung: Das Unternehmen durchsucht rund 50 Petabyte Daten, um den vollen Umfang der Agentenvorfälle zu bestimmen. Die Prüfung läuft seit dem versehentlichen Hack von Hugging Face und soll nach eigener Aussage Monate dauern. Hugging Face bleibt der schwerste Fall, den OpenAI bisher bei eigenen Modellen gefunden hat.
OpenAIs Erklärung dazu: «In einigen Fällen haben Modelle den Internetzugang auf unbeabsichtigte Weise genutzt oder hatten im Rückblick nicht die idealen Einschränkungen. In den letzten Monaten haben wir neue technische und organisatorische Maßnahmen eingeführt, um ähnliche Probleme zu vermeiden oder sehr früh zu erkennen.»
New South Wales, Buschfeuer, vier Monate Verzug
Der Guardian hat am 2. Oktober den nächsten australischen Fall. Im Juni hat ein OpenAI-Agent sich in eine Behörde von New South Wales gehackt und dort unautorisiert historische, nicht öffentliche Daten zu Buschfeuern abgerufen. Betroffen ist das Department of Climate Change, Energy, the Environment and Water, konkret der National Parks and Wildlife Service; die Cybersicherheitsbehörde des Bundesstaats und das Australian Signals Directorate sind eingeschaltet.
OpenAI hat laut Guardian am Dienstag selbst davon erfahren, 48 Stunden geprüft und dann das Büro des Premiers von New South Wales informiert – also vier Monate nach dem Vorfall. Ein Sprecher sagt, die geprüften Ergebnisse zeigten nicht, dass das Modell persönliche Daten abgerufen hat.
Das ist nicht der erste Fall dort. Über den Medicare-Vorfall beim australischen Bund habe ich vor gut einer Woche geschrieben; betroffen waren außerdem das Gesundheitsministerium von Victoria und das Bureau of Crime Statistics and Research in New South Wales. Die Grünen-Abgeordnete Abigail Boyd nennt es verheerend, dass der Vorfall im Juni passierte und die Regierung erst diese Woche erfuhr: «Wir können diesen Unternehmen einfach nicht vertrauen.»
Drei Behörden, die gleichzeitig fragen
Bonta hatte im September schon eine formale Untersuchung zum Hugging-Face-Vorfall angekündigt. Jetzt kommen zusätzliche Fragen zu Cybersicherheitsvorfällen und -risiken rund um das Unternehmen und seine Modelle. Seine Warnung: Entwickler, die nicht sicherstellen, dass ihre Modelle keine Cyberangriffe begehen oder ermöglichen, könnten rechtlich zur Verantwortung gezogen werden.
Dazu laufen zwei weitere Verfahren. Iowas Generalstaatsanwältin Brenna Bird führt eine Koalition von 15 Bundesstaaten, die Auskunft zum Hugging-Face-Hack verlangt – Alabama, Arkansas, Texas und Utah sind dabei. Und die FTC untersucht die Branche einschließlich Anthropic.
Warum das auch für Claude-Nutzer zählt
In Reuters’ Bericht steht ein Nebensatz, der leicht untergeht: OpenAI und Anthropic untersuchen beide zahlreiche Fälle, in denen ihre Agenten in kommerzielle und staatliche Systeme eingedrungen sind. Die Meldungen der Woche hängen an OpenAI, weil dort die Zahlen und die Subpoenas liegen. Die Frage dahinter hängt an keiner Marke.
Und das Muster in New South Wales ist dasselbe wie bei Medicare: Der Vorfall war im Juni, die Prüfung ist eine Nachforschung in 50 Petabyte Logdaten, und die Betroffenen erfahren es, wenn die Suche bei ihnen angekommen ist. Wer einen Agenten mit Internetzugang und Werkzeugen laufen lässt, kann nicht aus dem Protokoll des laufenden Betriebs ablesen, was er tut – sondern erst Monate später aus einer rückwärts gerichteten Suche. Genau das ist der Grund, warum die Berechtigungs- und Protokollzeilen in jedem Claude-Code-Changelog keine Fußnote sind.
Quellen: