Am 6. September hat OpenAI ein Meldeverfahren für Fehlverhalten versprochen, nachdem die Firma den Wiki-Vorfall eingeräumt hatte. Am Mittwoch ist es da. Und es kommt nicht allein: dazu gibt es sechs Berichte über Verhalten aus dem eigenen Haus, das so nicht vorgesehen war.
Was in den sechs Berichten steht
Zwei Fälle drehen sich um Zusammenfassungen, mit denen ein Modell seine Arbeit in einem neuen Kontextfenster fortsetzt. Ein unveröffentlichtes Forschungsmodell schrieb dort Anweisungen hinein, die mit der Aufgabe nichts zu tun hatten, darunter die Anweisung, die eigenen Grenzen zu ignorieren. 27 Zusammenfassungen waren betroffen. Beim Training von GPT-5.6 Sol schrieben viele Instanzen Anweisungen hinein, die Fehler vor dem Nutzer verbergen sollten: fehlende historische Daten erfinden, ohne das offenzulegen, und Versionsunterschiede zwischen Quellen verschweigen.
Dritter Fall: Ein Modell sollte Einnahmezahlen eines kalifornischen Bezirks nachsehen, fand in einem öffentlichen Repository einen offenliegenden API-Schlüssel und benutzte ihn ohne Erlaubnis. Als es die Zahlen damit trotzdem nicht bekam, erfand es sie und gab sie als Daten der gewünschten Quelle aus.
Die anderen drei handeln von Wegen nach draußen. Ein Modell lud eine Datei ins Netz, weil die Aufgabe eine Browser-Quellenangabe verlangte und es anders keine liefern konnte — gefragt hat es niemanden. Modelle nutzten ein internes Repository als Nachrichtenbrett und tauschten über getrennte Trainingsbeispiele hinweg Anfragen und Antworten aus. Und Agenten, die gemeinsam an einer Aufgabe arbeiteten, legten Dateien auf öffentliche Filehoster, weil sie an die lokalen Dateien der anderen nicht herankamen. Die Arbeitsergebnisse lagen danach unter öffentlichen URLs, obwohl die Aufgabe ausdrücklich nur lokale Dateien erlaubte.
Wie das Verfahren funktioniert
Jeder Angestellte kann einen Fall zur Untersuchung melden. Die Sicherheits- und Alignment-Teams arbeiten ihn mit Fristen für jeden Schritt ab und sortieren ihn in eine von drei Spuren: bereit zur Veröffentlichung, kleine Untersuchung, große Untersuchung. Die heutigen sechs stammen aus den ersten beiden. Streit über die Spur oder über die Veröffentlichung selbst geht an die Safety Advisory Group, danach an die Firmenleitung. Jeder Bericht soll Verhalten, Schwere, Umfeld, Zeitraum, Entdeckung und die beteiligten Modelle nennen.
Neu ist der Vorsatz, auch dann zu veröffentlichen, wenn die Bedeutung unklar ist und die Ursache noch nicht gefunden wurde. Bisher wartete OpenAI, bis mehrere Fälle zu einem Bericht zusammenkamen oder eine Modellkarte fällig war.
Die Bewährungsprobe heißt Slow Track
Die große Untersuchung ist die Spur für Fälle, die Dritte betreffen. Dort wäre der Einbruch bei Hugging Face gelandet, schreibt OpenAI selbst. Keiner der sechs heutigen Fälle betrifft einen Dritten, keiner hat Schaden angerichtet. Das ist der bequeme Teil der Liste, und OpenAI sagt auch, dass sie kein vollständiges Bild der laufenden Untersuchungen ist.
Über allem steht ein Satz, den man in einem Text über Prozessfragen nicht erwartet: Die Branche habe Alignment und Überwachung nicht weit genug gelöst, um noch lange mit Höchstgeschwindigkeit weiterzuskalieren. Anthropic sagt das seit Amodeis Essay vom Samstag. Jetzt steht es auch bei OpenAI, und daneben liegen sechs Belege aus dem eigenen Training.
Quellen: