Seit zwei Wochen steht der große rote Knopf im Zentrum der Debatte. Der Kongress will ihn, Kalifornien prüft ihn, und die Öffentlichkeit hält ihn für die naheliegende Lösung. CNBC hat Sicherheitsforscher und Infrastrukturleute gefragt, wie so ein Schalter technisch aussehen müsste. Die Antworten sind ernüchternd.
Was gerade auf dem Tisch liegt
Ein Kill Switch Act im Repräsentantenhaus, eingebracht diesen Sommer nach dem Hugging-Face-Vorfall: Das Heimatschutzministerium soll Labore im Notfall zwingen können, Modelle zu drosseln oder abzuschalten. Ein ähnlicher Vorstoß im Senat wurde diese Woche abgeräumt. Und Gouverneur Gavin Newsom hat am Freitag per Verordnung eine Expertengruppe eingesetzt, die einen Sicherheitsleitfaden für Kalifornien schreiben soll — ein Notausschalter ist einer der Punkte, die sie prüfen sollen.
Das Redundanz-Problem
Mark Nitzberg leitet das Center for Human-Compatible AI in Berkeley. Sein Einwand ist unspektakulär und deshalb so unangenehm: Rechenzentren sind darauf ausgelegt, Ausfälle zu überleben. «Unser Notausschalter muss die Hauptsysteme abschalten und die redundanten dazu.» Und wenn das gelingt, hängen an derselben Infrastruktur Dinge, die niemand ausschalten will. Nitzberg nennt Stromnetz und Finanzsystem, die dann ohne Absicherung dastünden.
Tim Brown, früher Sicherheitschef bei SolarWinds, heute beim Wagniskapitalgeber Team8, formuliert es kürzer: «Es gibt nicht eine Instanz zum Abschalten. Es gibt tausende Instanzen zum Abschalten.»
Zu grob abschalten heißt: Betrieb aus
Ed Jennings, Chef der Sicherheitsfirma Darktrace, verschiebt das Problem von der Technik in den Alltag. «Du musst bei diesem Notausschalter sehr chirurgisch vorgehen, denn wenn du zu breit oder zu umfassend abschaltest, legst du das Geschäft still.» Ein Schalter, den niemand zu benutzen wagt, ist keiner.
Dazu kommt das Tempoproblem. Raj Rajamani von JetStream Security: Bis ein Gesetz formuliert sei, habe sich die Technik längst weiterbewegt.
Der Einwand gegen die Rahmung selbst
Dylan Baker vom Distributed AI Research Institute hält die ganze Rahmung für falsch. Der Begriff sei absichtlich unscharf und lasse sich von Unternehmen in die eigene Richtung auslegen. Sein Vorschlag: Schutzregeln nach dem Vorbild von Datenschutz, Jugendschutz oder Tabakregulierung, statt eines Knopfes, den am Ende niemand drückt.
Ganz abgeschrieben ist die Idee aber nicht. Brown hält Notausschalter für machbar, wenn sie von Anfang an eingebaut und die Stopp-Abläufe zwischen den Laboren vereinheitlicht werden. Nitzberg sagt: «mit etwas Hoffnung ist es nicht zu spät.»
Der Knopf ist die falsche Metapher
Ein Notausschalter stammt aus der Fabrik. Dort steht eine Maschine, sie hat einen Stromkreis, und der Knopf trennt ihn. Ein Modell hat nichts davon. Es läuft auf Hardware, die tausend anderen Zwecken dient, in Rechenzentren, die auf mehreren Kontinenten füreinander einspringen, und seine Gewichte liegen als Datei vor, die man kopieren kann.
Bemerkenswert an den Aussagen ist, wer sie macht. Das sind keine Beschleuniger, die Regulierung abwehren wollen — das sind Leute, die Sicherheitssysteme bauen und verkaufen. Sie sagen nicht, ein Notausschalter sei überflüssig. Sie sagen, dass die Version, über die gerade abgestimmt wird, keiner ist. Nick Warner von Neo bringt es auf einen Satz: «Es ist nicht zu wenig, aber es ist wahrscheinlich zu spät.»