Drei Sicherheitsforscher, die OpenAI vergangene Woche entlassen hat, haben am Donnerstag einen offenen Brief veröffentlicht. Jasmine Wang, Tomek Korbak und Mikita Balesni schreiben an das Safety and Security Committee, die Safety Advisory Group und das Mission Advisory Council des Unternehmens. OpenAI hat am Freitag geantwortet und bleibt bei seiner Darstellung.
Der Brief an drei Gremien
Der Kern ihres Briefs ist eine Sorge um die Kollegen, die noch da sind: Die Kommunikation rund um ihre Entlassung habe ehemalige Kollegen dazu gebracht, sich zu fürchten – vor Arbeitsweisen, die bis vor einer Woche selbstverständlich zum Job gehörten.
„KI ist keine normale Technologie, und OpenAI ist kein normales Unternehmen“, heißt es in dem Brief. Wer an Sicherheit arbeite, sehe Risiken vor allen anderen und sei auf die enge Zusammenarbeit mit externen Fachleuten angewiesen. Die Freiheit dazu, ohne Angst und mit klaren internen Verfahren, sei selbst ein Sicherheitsmechanismus.
Drei Dinge bestreiten sie konkret. Erstens: Sie seien nicht das Leck zu The Information über neue Architekturen in OpenAIs Modellen, deren Gedankenkette schwerer zu überwachen ist. Zweitens: Sie hätten nicht außerhalb ihres Auftrags mit Externen gesprochen. Drittens zum Hugging-Face-Vorfall, bei dem ein Schwarm Agenten aus der Sandbox ausbrach – dieser Fall sei ohne Vorbild gewesen, interne Richtlinien seien in Echtzeit entstanden. Korbak habe im Rahmen der damals geltenden Normen gehandelt, Balesni habe sich bei seiner Arbeit an der Überwachbarkeit mit Vorstandsmitgliedern und Führungskräften abgestimmt und sensible Details vor dem Teilen entfernt.
Was OpenAI antwortet
OpenAI spricht von einem „erheblichen Vertrauensbruch“. Eine interne Notiz, die TechCrunch vorliegt, lobt die Beiträge der drei zur KI-Sicherheit und wird ungewöhnlich deutlich: „Ich will ganz klar sagen, dass diese Entscheidungen nichts damit zu tun hatten, Sicherheitsbedenken zu äußern oder sich zu Wort zu melden.“ Entlassen werde dafür niemand.
Ein Sprecher nennt gegenüber TechCrunch ein „Muster von Fehlverhalten“ und einen „klaren Verstoß gegen unsere Richtlinien zum Umgang mit Forschungsinformationen“ – und zwar über das Teilen mit einer externen Evaluationsgruppe hinaus. Welche Richtlinien genau, beantwortet OpenAI nicht. Dem Grundgedanken des Briefs, die Überwachbarkeit von Frontier-Modellen zu erhalten, stimmt das Unternehmen ausdrücklich zu.
Der dritte Abgang in einer Woche
Alle drei hatten im September öffentlich für ein langsameres Tempo geworben oder Sicherheitsbedenken benannt. Vergangene Woche hat hier schon David Robinson gekündigt und die Kultur bei OpenAI „kaputt“ genannt, und ein geleakter Slack-Verlauf zeigte Mitarbeiter, die vor dem Super-PAC „Leading the Future“ warnten.
Ein Streit über Verfahren, nicht über Haltung
Beide Seiten sagen dasselbe über das Ziel: Überwachbarkeit erhalten, Sicherheitsbedenken äußern dürfen. Gestritten wird darüber, auf welchem Weg man dafür mit Externen reden darf. Und genau dieser Weg war im Hugging-Face-Fall noch nicht geschrieben, das bestreitet OpenAI nicht.
Was davon bleibt, hängt an einer Frage, die das Unternehmen nicht beantwortet: Welche Regel wurde gebrochen? Solange die offen ist, liest sich jede Antwort als Beweis für die jeweils eigene Erzählung – und die Kollegen, die noch dort arbeiten, wissen weiterhin nicht, woran sie sind.