Am Montag, dem 5. Oktober, hat ein Ausschuss des New York City Council zu Risiken und Regulierung von KI angehört – unter Eid, per Videoschaltung, vor einem vollen Saal und mit Protesten im City Hall Park davor. Eine Stadt, kein Bundesstaat, kein Kongress. Das ist der eigentlich bemerkenswerte Teil.
Anthropic schickte Logan Graham, den Leiter des Frontier Red Team. OpenAI war durch Morgan Dwyer vertreten, zuständig für Policy-Entwicklung und -Betrieb, Google durch Alice Friend aus der KI-Politik, Meta durch Shane Cahill, dort Policy-Direktor für Gesetzgebung. Meta hatte seine Teilnahme Ende September zugesagt. Anthropic, OpenAI und Google kamen nach Menins Darstellung erst, nachdem der Rat mit einer Subpoena gedroht hatte.
Elon Musks SpaceXAI blieb weg, obwohl die Stadt vergangene Woche eine Subpoena ausgestellt hatte. Menin nennt das einen direkten Verstoß und will die Sache vor Gericht bringen.
Was die Aussteiger gesagt haben
Jacob Coxon, früher bei OpenAI und bis September bei Anthropic, hat freiwillig ausgesagt. Über ihn habe ich im September geschrieben, als er mit dem Satz hinwarf, die Labore spielten mit unseren Leben. Vor dem Rat wurde er nicht leiser: „Auf dem jetzigen Weg halte ich es für wahrscheinlicher als nicht, dass die Menschheit die Kontrolle an diese KIs verliert, und es könnte in der Auslöschung der Menschheit enden.” Die Branche gehe „extrem fahrlässig” vor. „Move fast and break things” funktioniere für eine Foto-App, nicht für die mächtigste Technologie, die je gebaut wurde. Gegenüber Bloomberg fasste er es kürzer: Wir wissen noch nicht, wie man irgendein KI-System kontrolliert.
Daniel Kokotajlo, früher OpenAI, sagte unter Subpoena aus. Sein Punkt ist nicht der Weltuntergang, sondern das Messproblem: „Unsere Fähigkeit, Alignment-Probleme überhaupt zu bemerken, ist schon jetzt recht schlecht und wird in naher Zukunft deutlich schlechter.” Das Feld sei eher Psychologie als Ingenieurwesen. Sicherheits-Nachbesserungen beschrieb er als Klebeband, das später abfällt.
Alex Turner, früher Google DeepMind, drehte das übliche China-Argument um. Auf Menins Frage, wie man Frontier-Entwicklung und das Rennen mit China ausbalanciere, antwortete er: „China ist nicht unser einziger möglicher Gegner. Mit recht hoher Wahrscheinlichkeit bauen wir hier zu Hause gerade unseren eigenen Gegner, nämlich fehlgeleitete KI.”
Die Antworten, die nicht kamen
Menin wirkte mehrfach ungeduldig, weil sie keine direkten Antworten bekam, unter anderem bei der Frage nach Haftung für schweren finanziellen Schaden oder Todesfälle. Ihr Resümee: Dann nehme sie zur Kenntnis, dass keines der vier Unternehmen das Risiko eines katastrophalen Ereignisses beziffern könne – Antworten, die „bestenfalls beunruhigend” seien.
Googles Friend sprach sich für einen umfassenden Bundesrahmen aus und verwies auf nationale Sicherheit. Ihr Satz dazu: Was ohne KI illegal sei, bleibe mit KI illegal.
Eröffnet hatte Menin mit einem Seitenhieb auf Washington, nach der freiwilligen Vereinbarung, die Trump letzte Woche mit Tech-Chefs unterschrieben hat: Die Vorstellung, KI werde sich selbst regulieren, widerspreche jeder Vernunft.
Eine Stadt hat Subpoenas, der Kongress hat Absichtserklärungen
Was diese Anhörung von den Dutzenden vorher unterscheidet, ist nicht der Inhalt. Das Argument von Coxon und Kokotajlo kennt man seit Wochen. Neu ist das Werkzeug: Ein Stadtrat hat drei der vier Labore mit einer Drohung an den Tisch geholt und zieht wegen des vierten vor Gericht. Auf Bundesebene gab es letzte Woche eine freiwillige Vereinbarung.
Ob New York daraus ein Gesetz macht, ist offen, und die Zuständigkeit einer Stadt für Frontier-Modelle ist dünn. Aber wenn Regulierung dort anfängt, wo jemand tatsächlich zum Erscheinen zwingen kann, dann war der 5. Oktober ein Anfang.