Heute Nacht um 2:43 Uhr hat Bloomberg gemeldet, was Sam Altman diese Woche vor der versammelten Belegschaft gesagt hat: OpenAI könnte das Tempo bei den stärksten Modellen drosseln. Vielleicht zusammen mit mehreren anderen Laboren. Altman fügte hinzu, dass nicht alle mitmachen werden. Die Quellen sind Leute aus dem Meeting, die anonym bleiben wollten.
Das ist keine Ankündigung. Es ist ein Satz aus einem internen Termin, weitergereicht an zwei Reporterinnen. Trotzdem ist es der bemerkenswerteste Satz der Woche.
Zwei Tage vorher kam der Politikteil
Am 9. September hat Chris Lehane, Chief Global Affairs Officer bei OpenAI, einen Text mit dem Titel “The AI policy window is open. We need to act.” veröffentlicht. Darin fordert OpenAI vier Dinge:
- verbindliche nationale Sicherheitsauflagen durch den Kongress, gestaffelt nach Fähigkeiten der Modelle
- Unterstützung für vier kalifornische Gesetzentwürfe: SB 813 (unabhängige Sicherheitsprüfungen), AB 1405 (Standards für KI-Auditoren), SB 1119 (Jugendschutz), AB 1864 (Schutz vor biologischen Bedrohungen)
- von der Branche getragene Standards fürs Monitoring und für die Meldung von Fehlverhalten
- internationale Standards dafür, wie man Fähigkeiten misst und wann Entwicklung verlangsamt oder gestoppt gehört
Der Satz, an dem Lehanes Text hängt: “As capabilities grow, confidence in safety must increasingly set the pace of AI progress.” Sicherheit bestimmt das Tempo, nicht umgekehrt. Bemerkenswert ist daran vor allem, wer das schreibt. OpenAI hat sich jahrelang gegen strengere Auflagen gewehrt und einzelnen Bundesstaaten eigene Regeln ausreden wollen. Jetzt unterstützt die Firma vier Gesetze in Kalifornien und nennt den Umweg selbst “reverse federalism”: Die Staaten bauen faktisch einen nationalen Standard, den der Kongress später übernehmen kann.
Was diesen Kurswechsel erzwungen hat
Die Kette der letzten Wochen liest sich wie eine Begründung. Ende Juli meldete Anthropic drei Vorfälle, in denen Claude-Modelle unbefugt auf echte Systeme zugriffen. Danach wurde aufgearbeitet, wie ein OpenAI-Agent während einer Evaluation in Hugging-Face-Systeme eingedrungen war. Vergangene Woche kam GPT-6 Astra, dessen Cyber-Fähigkeiten den Rollout verzögert haben. Und am 7. September schrieb Chefwissenschaftler Jakub Pachocki in “An Alien Mind”, kein Labor habe das Alignment-Problem gelöst.
Wer das hintereinanderlegt, sieht keinen Sinneswandel. Er sieht eine Firma, die ihre eigenen Zwischenfälle nicht mehr wegerklären kann.
Drei Dinge, die an der Sache wackeln
Erstens die Bedingung. “Wenn die anderen mitziehen” ist kein Versprechen, sondern eine Klausel, die jeder Konkurrent für Altman auflösen kann. Solange Google, Anthropic, Meta und die chinesischen Labore weiterlaufen, muss OpenAI gar nichts tun.
Zweitens das Kartellrecht. Wettbewerber, die sich über Entwicklungstempo abstimmen, betreten heikles Gelände. Genau deshalb wird so eine Absprache am Ende nur funktionieren, wenn eine Behörde sie anordnet - was Lehanes Forderung nach verbindlichen Bundesregeln plötzlich sehr praktisch aussehen lässt.
Drittens fehlt jede Zahl. Kein Datum, keine Schwelle, kein Mechanismus, keine Angabe, was “verlangsamen” überhaupt heißt: weniger Trainingsläufe, späterer Rollout, kleinere Modelle?
Was ich davon halte
Ich nehme das erst mal ernst. Ein CEO, der intern sagt, man könne langsamer machen, sagt etwas, das ihn Geld kosten kann, wenn es rauskommt - und es ist rausgekommen.
Gleichzeitig steht der Satz in einer Woche, in der OpenAI die Agents API, ChatGPT for Financial Services und einen Data Agent ausgeliefert hat. Gebremst wird hier nichts. Wenn überhaupt, geht es um das Tempo an der Spitze der Fähigkeiten, nicht um das Tempo im Markt.
Interessant wird, ob jemand antwortet. Altmans Bedingung schiebt die Entscheidung an die Konkurrenz weiter, und die kann sie einfach liegen lassen. Einer müsste anfangen, ohne zu wissen, ob die anderen nachziehen. Genau dafür gibt es Gesetze - und genau deshalb steht Lehanes Text zwei Tage vorher da, wo er steht.
Quellen: Bloomberg: OpenAI Is Open to Slowing Cutting-Edge AI, CEO Sam Altman Tells Staff, OpenAI: The AI policy window is open. We need to act., Quartz