OpenAI hat am Montag einen Text veröffentlicht, der zwei Dinge auf einmal macht: Er legt fest, wie das Unternehmen zur rekursiven Selbstverbesserung steht, und er sagt, wer die Regeln dafür schreiben soll. Der Satz, der hängen bleibt, ist kurz.
«Vollständig autonome RSI passiert heute nicht, und wir sollten sie nicht verfolgen, solange und bis sie sicher geht.»
Das ist mehr als eine Beruhigung. OpenAI nennt im selben Absatz das Szenario, das es verhindern will: Menschen verlieren die praktische Kontrolle über die KI-Entwicklung, weil sie Forschungsprozesse beaufsichtigen sollen, die sie nicht mehr verstehen. Der Hugging-Face-Vorfall, schreibt das Unternehmen, war zwar keine Folge von RSI, aber ein Vorgeschmack.
Was OpenAI vorschlägt
Zwei Bausteine.
Der erste ist ein Mechanismus für Standards. OpenAI will das bestehende Netz der KI-Sicherheitsinstitute nutzen – Australien, Kanada, Deutschland, Frankreich, Kenia, Japan, Korea, Singapur, Indien und Großbritannien sind namentlich genannt – und die Fäden beim amerikanischen Center for AI Standards and Innovation zusammenlaufen lassen. Ausdrücklich keine Lizenzen, keine Pflichtprüfung vor dem Release, keine Genehmigung. Nationale Regierungen entscheiden selbst, was sie davon in ihr Recht übernehmen.
Der zweite Baustein ist der interessantere. OpenAI will gemeinsame Messgrößen, und drei davon sind konkret benannt: wie viel RSI-relevanter Fortschritt in einem Labor stattfindet und wie viel Forschung dort autonom läuft; welche automatisierten Forschungsschritte eine sofortige menschliche Prüfung auslösen müssen; und eine einheitliche Klassifikation für Vorfälle, samt Schweregraden und Meldeschwellen.
Das Timing ist kein Zufall
Sam Altman spricht am Mittwoch vor dem UN-Sicherheitsrat in New York, und die Empfehlungen aus diesem Text sind das, was er mitbringt. Parallel haben Finanzminister Scott Bessent und Vizepremier He Lifeng am Wochenende über einen Meldeweg zwischen Washington und Peking gesprochen, der greifen soll, wenn ein KI-Vorfall die Schwelle zur nationalen Sicherheit reißt. OpenAI schreibt dazu, ein Dialog zwischen den USA und China wäre ein positiver Schritt und die anstehenden Gespräche kämen zum richtigen Zeitpunkt.
Wer zählt, wie viel die Maschine forscht
Der Vorschlag, den Anteil autonomer Forschung innerhalb einer Firma zu messen, ist der Punkt, an dem es unbequem wird. Diese Zahl hat bisher nur eines der Labore veröffentlicht: Anthropic, mit 26 Prozent. Ein Standard würde aus einer freiwilligen Angabe eine vergleichbare machen – und damit aus einer Marketingzahl eine Kennzahl, die man gegen die eigenen Sicherheitsversprechen halten kann.
Ob die Regierungen da mitziehen, steht auf einem anderen Blatt. Auffällig ist, wie nah OpenAIs Vorschlag an dem liegt, wofür Dario Amodei vor zwei Wochen kritisiert wurde. Nur nennt OpenAI es nicht Tempolimit, sondern Standard.