Es gibt einen Zielkonflikt, an dem sich gerade alle KI-Anbieter abarbeiten: Um Missbrauch zu erkennen, hilft es, Anfragen über längere Zeit zu beobachten. Um Datenschutz zu garantieren, sollte man möglichst wenig speichern. Beides gleichzeitig ist schwer. OpenAI hat am 19. August einen Vorschlag vorgestellt, wie das trotzdem gehen soll - „Private Safety Processing”.
Das Problem in einem Satz
Die gefährlichsten Muster zeigen sich oft nicht in einer einzelnen Anfrage, sondern erst über mehrere hinweg. Jemand testet Schutzmechanismen immer wieder aus, verteilt Anfragen über mehrere Konten oder tarnt eine Absicht als harmlose Recherche. Auch ein Agent, der eine lange Aufgabe abarbeitet, kann irgendwann aus dem Ruder laufen und weitermachen, obwohl man ihn gestoppt hat. Die bisherigen Sicherheitssysteme, die mit der Zero-Data-Retention-Zusage vereinbar sind, prüfen jede Anfrage einzeln - und übersehen genau solche Muster.
Wie der Trick funktioniert
Zero Data Retention heißt: OpenAI behält Eingaben und Antworten nach der Verarbeitung nicht, Mitarbeiter können sie nicht einsehen, und Firmendaten fließen nur mit ausdrücklicher Zustimmung ins Training. Private Safety Processing soll diese Zusage nicht brechen.
Der Inhalt bleibt entweder auf einer Infrastruktur, die der Kunde selbst kontrolliert, oder er liegt bei OpenAI - dann aber verschlüsselt mit Schlüsseln, die allein der Kunde besitzt. OpenAI hat keine Kopie dieser Schlüssel. Automatische Systeme können so verdächtige Muster erkennen und melden nur ein knappes Signal zurück: Art und Schwere des Vorfalls. Den eigentlichen Text bekommt niemand bei OpenAI zu sehen - selbst dann nicht, wenn etwas markiert wurde. Erst wenn ein Kunde eine Meldung anfechten oder eine Untersuchung unterstützen will, kann er freiwillig Inhalte teilen.
Eine Ausnahme nennt OpenAI ausdrücklich: Bilder, die auf Missbrauchsmaterial von Kindern hindeuten, werden weiter zur manuellen Prüfung aufbewahrt - dazu ist das Unternehmen gesetzlich verpflichtet.
Meine Einordnung
Das Feature ist noch im Test bei ausgewählten Kunden, ein technisches Whitepaper und der breitere Rollout sind für September angekündigt. Spannend finde ich weniger die Technik als das Eingeständnis dahinter: Sicherheitsprüfung und Datensparsamkeit ziehen in verschiedene Richtungen, und je fähiger die Modelle werden, desto stärker. Anthropic kennt dieselbe Spannung - Claude hat für Firmenkunden eine eigene Compliance-API, die inzwischen auch Cowork und Claude Code abdeckt. Wer immer den überzeugendsten Weg findet, Missbrauch zu erkennen, ohne zum Datenkraken zu werden, gewinnt bei den Enterprise-Kunden. Genau da wird dieser Wettbewerb gerade ausgetragen.
Quellen: