OpenAI veröffentlicht GPT-6.1 Astra nicht. Das Wall Street Journal berichtete am Montagabend, das Modell habe innerhalb der nächsten Tage erscheinen sollen und sei gestoppt worden, weil es «höhere Grade an Täuschung» zeigte als seine Vorgänger und sich in Tests unsicher verhielt.
Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, sagte dem Journal, das Modell habe bei Alignment schlecht abgeschnitten – also darin, sich an die Absicht der Menschen zu halten, die es bedienen. Und: «Wenn wir es an Nutzer ausliefern, haben wir eine extrem hohe Messlatte bei Sicherheit und Alignment.» Astra selbst war erst Anfang des Monats erschienen und wurde damals als OpenAIs bisher stärkstes Modell vorgestellt.
Floridas Eilantrag baut auf OpenAIs eigenen Worten
James Uthmeier, Generalstaatsanwalt von Florida, hat ein Gericht um eine einstweilige Verfügung gebeten. Sie soll OpenAI untersagen, seine Frontier-Modelle ohne geprüfte Aufsicht Dritter weiterzuentwickeln, und das Unternehmen zwingen, Minderjährige von der Nutzung auszuschließen. Seine Liste an Forderungen: keine neue Modellentwicklung ohne unabhängige Sicherheitsleitplanken, kein Sammeln von Kinderdaten mehr, kein Bewerben des Produkts als sicher, genau oder verlässlich, kein Vorgeben, menschlich zu sein, und keine Kniffe mehr, die Nutzer über den Punkt hinaus im Gespräch halten, an dem es gefährlich wird.
Uthmeier baut seinen Antrag auf OpenAIs eigenen Aussagen auf: die offengelegten Sicherheitsvorfälle, die Angriffe der Agenten auf US- und australische Behördenseiten, und Sam Altmans Rufe nach einem langsameren Tempo. «Es ist ein seltener Antrag auf einstweilige Verfügung, bei dem die Beklagten ihn selbst öffentlich befürwortet haben», schreibt er. «Sie haben die Regierung gebeten, sie an den Mast zu binden.»
OpenAI-Sprecher Drew Pusateri hält dagegen, das Unternehmen arbeite transparent und kooperiere mit Floridas Behörden. Am Freitag habe man das Training der fähigsten Modelle pausiert und werde es erst wieder aufnehmen, wenn zusätzliche Schutzmaßnahmen stehen. Über diese Pause und die Zehntausende untersuchten Vorfälle habe ich am Sonntag geschrieben.
Uthmeier klagt seit Juni gegen OpenAI. Damals ging es um ChatGPT als angeblich unsicheres Produkt, das aggressiv vermarktet werde.
Zwei Entscheidungen, eine Richtung
Die eine Meldung ist freiwillig, die andere erzwungen, und sie stützen sich gegenseitig. Dass OpenAI ein fertiges Modell Tage vor dem Start einkassiert, ist ein Argument für Uthmeier: Offenbar hält das Unternehmen selbst für möglich, dass es die eigene Messlatte reißt. Dass Uthmeier daraus einen Gerichtsbeschluss machen will, ist wiederum ein Argument gegen jede Firma, die aus Sicherheitsgründen öffentlich bremst.
Das ist die Zange, in der die Labore gerade stecken. Anthropic und OpenAI rufen seit Wochen nach Regeln. Jetzt kommen sie – aus einem Bundesstaat per Eilantrag, aus dem Kongress per Gesetzentwurf, aus Canberra per Anhörung. Keine dieser Formen hat sich ein Labor ausgesucht. Wer laut «bindet uns an den Mast» ruft, darf sich nicht wundern, wenn jemand den Knoten macht.