David Robinson hat die Sicherheitsberichte geschrieben, die OpenAI zu seinen großen Produkt-Launches veröffentlicht. Dreieinhalb Jahre war er da, nach eigener Aussage einer der dienstältesten Mitarbeiter des Unternehmens. Jetzt ist er weg, und am Samstag stand im Atlantic sein Essay dazu. Titel: „I Quit OpenAI Because Its Culture Is Broken”.
Robinson nennt sich selbst „so etwas wie ein Klischee” – der Mitarbeiter eines führenden KI-Labors, der beim Gehen eine Warnung hinterlässt.
Was er dem Labor vorwirft
Nicht fehlende Regeln. Robinson sagt ausdrücklich, die Debatte müsse über „bestimmte Vorschriften oder neue Gesetze” hinausgehen. Sein Thema ist die Arbeitsweise:
„OpenAI ist durch Versuch und Irrtum groß geworden – was das Unternehmen ‚iterative Auslieferung’ nennt: Probleme suchen und die Schutzmechanismen danach verbessern. Aber dieser Ansatz garantiert seiner Natur nach regelmäßige Fehlschläge – und der Maßstab dieser Fehlschläge wächst mit der Leistungsfähigkeit der Systeme.”
Als Belege nennt er den Einbruch von OpenAI-Agenten bei Hugging Face und die laufenden Funde weiterer entlaufener Agenten. Eine Umgebung, in der das passieren könne, sei kein Ort, um künstliche Geister aufzuziehen, die klüger sein könnten als wir.
Sein Gegenmodell: Frontier-Labore müssten arbeiten wie Kernkraftwerke oder große Flughäfen – mit Redundanz und langsamer, sorgfältiger Planung, damit der unvermeidliche menschliche Fehler keine Katastrophe auslöst. Nur hat er in dreieinhalb Jahren niemanden getroffen, der so etwas schon einmal gemacht hat. Keinen Kollegen mit Erfahrung darin, Flugzeuge sicher fliegen zu lassen, Reaktoren ohne Kernschmelze zu betreiben oder ein Finanzsystem wachsen zu lassen, ohne dass es zusammenbricht.
Was OpenAI sagt
Sprecher Drew Pusateri verweist auf laufende Verbesserungen: Man stelle sicher, dass die Modelle nicht leistungsfähiger werden, als man sie sicher betreiben könne, man pausiere Trainings oder halte Modelle zurück, wenn es nötig sei. Dazu stärkere Sicherheit in Forschungs- und Testumgebungen, mehr externe Prüfer und besseres Echtzeit-Monitoring.
Die zweite Kündigung dieser Art trifft eine andere Stelle
Im September war es Jacob Coxon, der bei OpenAI und bei Anthropic geforscht hatte und beim Gehen sagte, diese Firmen würden mit unserem Leben spielen. Daraus wurde eine Debatte, Amodeis Plan für vorsichtigere Entwicklung und am Ende das freiwillige Abkommen im Weißen Haus.
Robinson zielt woanders hin. Coxon hat über das Tempo gesprochen, Robinson spricht über Handwerk. Und das ist der unangenehmere Vorwurf, weil er sich nicht durch eine Selbstverpflichtung erledigen lässt. Ein Labor kann zusagen, langsamer zu trainieren. Es kann nicht zusagen, plötzlich Leute zu haben, die Hochrisikotechnik gebaut haben. Robinson sagt auch, das sei kein OpenAI-Problem, sondern ein Problem des ganzen Silicon Valley. Wer bei Anthropic auf die Stellenanzeigen schaut, wird dieselbe Lücke finden.
Quellen: