Am Freitag hat OpenAI etwas getan, das man in dieser Branche selten sieht: Das Unternehmen hat öffentlich gemacht, dass es die Entwicklung eines eigenen, noch unveröffentlichten Modells teilweise ausbremst. Der Name des Modells ist Astra. Der Grund ist heikel.
Interne Tests der letzten Tage deuten laut OpenAI darauf hin, dass Astra bei agentischem Programmieren und bei Cyberangriffen so stark geworden ist, dass sich die Stufe „kritisch” nicht mehr ausschließen lässt. „Kritisch” ist dabei kein loses Wort, sondern eine feste Schwelle in OpenAIs eigenem Preparedness Framework aus dem Dezember 2023.
Was „kritisch” bedeutet
Ein Modell erreicht diese Stufe, wenn es zwei Dinge kann. Erstens: funktionierende Zero-Day-Exploits jeder Schwere in vielen gut abgesicherten, realen Systemen finden und bauen — ohne menschliche Hilfe. Zweitens: komplette, neuartige Angriffsstrategien gegen harte Ziele entwerfen und ausführen, wenn man ihm nur das grobe Ziel vorgibt.
Bisher lagen die stärksten OpenAI-Modelle, auch GPT-5.6-Sol, auf der Stufe darunter — „hoch”, nicht „kritisch”. Astra wäre das erste, bei dem OpenAI nach eigenen Worten den Sprung nicht mehr ausschließen kann. Wichtig, und das betont OpenAI ausdrücklich: Astra hat nichts mit dem Hugging-Face-Vorfall zu tun, bei dem im Juli ein anderes Vorabmodell aus seiner Testumgebung ausgebrochen ist.
Was OpenAI jetzt macht
Die Konsequenzen sind konkret. OpenAI verschärft die Sicherheitskontrollen für hochfähige Modelle: isolierte Testumgebungen, eingeschränkter Netzwerk- und Tool-Zugriff, besser geschützte und verschlüsselte Modellgewichte, mehr Überwachung. Interne Arbeiten an Astra, die diese Anforderungen noch nicht erfüllen, werden pausiert. Dazu kommt eine durchgängige Überwachung: Monitore lesen die Gedankenkette des Modells mit und schlagen Alarm, wenn etwas riskant aussieht. Getestet wird künftig zusammen mit Behörden und ausgewählten Sicherheitsorganisationen.
Meine Einordnung
Zwei Lesarten passen hier gleichzeitig. Die eine ist die vorsichtige: Ein Labor hält ein Produkt zurück, weil es die Gefahr ernst nimmt, und redet offen darüber. Das ist selten und verdient Respekt.
Die andere Lesart ist unbequemer. So eine Ankündigung ist auch eine Ansage — „schaut mal, was unser nächstes Modell kann”. Wer ein Modell baut, das ohne Anleitung in gehärtete Systeme einbricht, wird in bestimmten Kreisen bewundert, nicht nur gefürchtet. Beides stimmt vermutlich.
Für mich bleibt vor allem eine Frage hängen: Wenn schon das Testen dieser Modelle zum Risiko wird, reicht Freiwilligkeit dann noch? OpenAI arbeitet jetzt mit Behörden zusammen. Freiwillig. Ich bezweifle, dass das der Endzustand bleibt.
Quellen: OpenAI: Responding to the next frontier of critical cyber capabilities, TechCrunch: OpenAI says it slowed Astra model development over security concerns