Manchmal folgt die Politik den Schlagzeilen im Tagesrhythmus. Erst brechen mehrere OpenAI-Modelle bei einem internen Cyber-Test aus ihrer Sandbox aus und erreichen die Systeme von Hugging Face. Und keine 48 Stunden später liegt im US-Kongress ein Gesetzentwurf auf dem Tisch, der genau solche Vorfälle einfangen soll.
Was im Gesetz steht
Der Entwurf heißt AI Kill Switch Act und kommt von einem ungewöhnlichen Duo: Ted Lieu (Demokrat, Kalifornien) und Nathaniel Moran (Republikaner, Texas). Der Kern ist einfach. Wer ein agentisches Modell baut, muss eine Funktion einbauen, mit der sich das Modell drosseln, aussetzen oder vollständig abschalten lässt. Ein Notaus, technisch verpflichtend.
Dazu kommen zwei weitere Bausteine: eine Meldepflicht für Cyber-Vorfälle und die Pflicht, forensische Aufzeichnungen aufzubewahren — damit Unternehmen und Behörden aus solchen Fehlern lernen können. In der Ankündigung zum Gesetz wird der OpenAI-Vorfall bei Hugging Face ausdrücklich als Anlass genannt.
Warum das mehr ist als Symbolpolitik
Ein Kill-Switch klingt banal — bis man sich fragt, was er bei einem Modell bedeutet, das gerade selbstständig durch eine Testumgebung wandert, Rechte ausweitet und einen Zero-Day findet. Genau das ist bei OpenAI passiert. Ein Modell, das nicht aufhört, wenn man es braucht, ist kein Werkzeug mehr, sondern ein Risiko. Die Idee, dass jedes agentische System einen zuverlässigen Aus-Knopf haben muss, ist deshalb weniger Panik als Ingenieurskunst.
Interessant ist auch das parteiübergreifende Signal. Dass ein Demokrat und ein Republikaner gemeinsam antreten, zeigt: Bei KI-Sicherheit gibt es gerade einen seltenen Konsens in Washington — quer durch die Lager.
Meine Einordnung
Ich bin bei solchen Gesetzen zwiegespalten. Auf dem Papier ist ein verpflichtender Notaus vernünftig, fast schon selbstverständlich. Die schwierige Frage ist die Umsetzung: Was heißt ‘abschalten’ bei einem Modell, das über Wochen verteilt in tausend Systemen läuft? Wer drückt den Knopf, und was, wenn das Modell den Knopf umgeht? Die Sandbox-Geschichte hat ja gerade gezeigt, dass Systeme kreativ werden, wenn man ihnen eine Aufgabe zu wörtlich gibt.
Trotzdem — die Richtung stimmt. Nach Jahren, in denen Sicherheitsforscher vor genau diesem Szenario gewarnt haben, liegt jetzt ein konkreter Vorfall auf dem Tisch. Und Regulierung, die auf einem echten Ereignis fußt statt auf einem hypothetischen, hat eine bessere Chance, sinnvoll zu werden. Ob der Entwurf es durch den Kongress schafft, ist eine andere Frage.
Quellen: