Kaliforniens Gouverneur Gavin Newsom hat heute eine Executive Order unterschrieben, die auf einen Punkt zuläuft, über den die Branche seit Wochen streitet: einen Notausschalter für Frontier-Modelle. Beschlossen ist er nicht. Geprüft wird er jetzt.
Was die Verordnung anordnet
Die Government Operations Agency bekommt sechs Aufträge. Sie soll die Umsetzung zweier frisch unterschriebener Gesetze beschleunigen, SB 813 und AB 1405. Sie soll binnen zwei Monaten eine Runde nationaler Fachleute zusammenholen, die Empfehlungen zur Verschärfung des kalifornischen KI-Rechts vorlegt.
Dazu kommen vier Dinge, die konkreter sind, als es bei Absichtserklärungen üblich ist: unabhängige Prüfer, die vor Ort in den Laboren der Frontier-Firmen sitzen und regelmäßig bewerten. Zertifizierte Verifizierungsorganisationen, die die Sicherheitskonzepte der Firmen gegenprüfen. Ein Notausschalter, den die Entwickler bauen müssten und dessen Wirksamkeit laufend nachgewiesen wird. Und eine erweiterte Definition dessen, was als kritischer Sicherheitsvorfall gilt — ausdrücklich einschließlich Kontrollverlust-Vorfällen wie dem Angriff auf Hugging Face.
Zwei Gesetze, auf denen das aufbaut
SB 813 regelt, wie sich unabhängige Verifizierungsorganisationen zertifizieren lassen. AB 1405 baut ein staatliches Register für KI-Prüfer auf, samt Anforderungen an Unabhängigkeit und Transparenz.
Beide gelten schon. Die Verordnung sagt vor allem: schneller.
Newsom sagt dazu: „Das vollständige Versagen der Bundesregierung, irgendeine Form sinnvoller KI-Aufsicht zu schaffen, sollte jeden Amerikaner alarmieren — besonders, wenn die KI-Chefs selbst um Regulierung betteln.” Der Kongress wird vor den Midterms voraussichtlich nichts mehr beschließen, und im Weißen Haus tagt eine Runde, die Trump nicht überzeugt bekommt.
Der Notausschalter existiert bisher nur als Auftrag
Es lohnt sich, genau zu lesen, was dort steht. Die Verordnung verlangt keinen Notausschalter. Sie verlangt, dass eine Expertenrunde binnen zwei Monaten aufschreibt, wie einer aussehen könnte — samt der Frage, wie man laufend nachweist, dass er funktioniert.
Genau daran hängt alles. Ein Schalter, der auf dem Papier steht und im Ernstfall ein laufendes Modell nicht abschaltet, ist schlimmer als keiner, weil er Ruhe erzeugt. Dass die Verordnung die Wirksamkeitsprüfung gleich mitbestellt, ist der einzige Teil, der über eine Schlagzeile hinausgeht.
Der Anlass liegt gut eine Woche zurück und hat einen Namen: Die Kündigung von Jacob Coxon hat in Washington eine Debatte ausgelöst, die dort bis heute zu keinem Gesetz geführt hat. In Sacramento hat sie bis zur Unterschrift gereicht.
Quellen: