Seit Anfang Oktober ist bekannt, dass OpenAI drei Sicherheitsforscher entlassen hat. Was dem vorausging, stand bis jetzt nicht fest. Das Wall Street Journal hat am 22. Oktober den Vorgang nachgezeichnet, und der Kern ist ein Verdacht auf Weitergabe von Modellinterna.
Der Vorwurf
OpenAIs Sicherheitsteam bestellte die drei im September einzeln in Gespräche und bat sie, ihre privaten Telefone zu entsperren. Das Unternehmen verdächtigte sie, Informationen an einen externen KI-Sicherheitsforscher weitergegeben zu haben, und zwar über eines der am strengsten gehüteten Betriebsgeheimnisse: die internen Entwürfe der eigenen Modelle. Der Empfänger ist nach Darstellung des Wall Street Journal der KI-Sicherheitsforscher Ryan Greenblatt. Ein Teil der Kommunikation lief über Signal-Chats mit selbstlöschenden Nachrichten.
Offiziell nennt OpenAI als Grund den unsachgemäßen Umgang mit sensiblen Informationen. Die Zeitung ordnet das in einen Zusammenhang ein, der dem Vorwurf eine zweite Seite gibt: Die drei hatten sich dafür eingesetzt, die Funktionsweise von KI-Systemen sichtbar zu halten und Außenstehende hineinschauen zu lassen.
Was wir davor schon wussten
Jasmine Wang, Tomek Korbak und Mikita Balesni haben Anfang Oktober in einem offenen Brief widersprochen und das Unternehmen gebeten, die Einsicht in die Gedankenketten der Modelle zu erhalten. Damals stand Aussage gegen Aussage, ohne dass die Vorwürfe benannt waren. Jetzt sind sie benannt – aus einer Richtung.
Die Zeitung verweist auf eine Reihe eigener Berichte zum Umfeld: KI-Firmen im Katz-und-Maus-Spiel mit Industriespionage, ein OpenAI-Ingenieur mit einem in Toilettenpapier gewickelten Mikrofon im Konferenzraum. Der Rumpf der Reportage steht hinter der Bezahlschranke; was hier steht, ist der belegbare Teil.
Geheimnisschutz und Prüfbarkeit ziehen in verschiedene Richtungen
Der Fall zeigt einen Konflikt, der sich nicht wegorganisieren lässt. Unabhängige Prüfung von KI-Systemen braucht Zugang zu genau den Dingen, die ein Labor als Betriebsgeheimnis behandelt. Je tiefer der Zugang, desto schwerer die Grenze zwischen Prüfung und Weitergabe.
Und die Alternative dazu wird derselben Woche vorgeführt. METR und Redwood Research haben OpenAIs Monitoring-System geprüft – begleitet, auf Firmengeräten, die das Gebäude nicht verließen, mit einem 61 Seiten langen Bericht, der nicht veröffentlicht wird. Das ist der gezähmte Weg: Zugang unter Aufsicht, mit Vertrag. Der ungezähmte Weg endet offenbar bei entsperrten Privattelefonen.