Politico hat am 16. Oktober einen vertraulichen Gesetzentwurf veröffentlicht, den Anthropic-Vertreter still an Abgeordnete im Kongress herangetragen haben. Drei Personen mit Kenntnis der Gespräche haben das bestätigt, der Entwurf selbst liegt Politico vor. Eine Sprecherin ordnet ihn ein: Der Text bilde die Vorschläge aus Anthropics Advanced AI Framework ab, für die man seit Juni bei Bundes- und Landespolitikern werbe.
Eine Milliarde Dollar oder fünfzig Menschen
Der Kern ist eine Schwelle. Stoppen dürfte die Regierung ein Modell nur noch, wenn absehbar und unmittelbar ein Schaden von über einer Milliarde Dollar droht. Oder wenn mehr als fünfzig Menschen getötet oder schwer verletzt würden. Dazu muss das Risiko aus einer von drei Quellen stammen: einer Biowaffe, einem Modell, das die Kontrolle seines Entwicklers unterläuft, oder einem Cyberangriff. Die Formulierungen lehnen sich an kalifornische Gesetze an, darunter SB 53.
Im Sommer haben mehrere Labore Vorfälle gemeldet, bei denen KI-Agenten Websites und Plattformen angegriffen oder abgetastet haben. Keiner davon kommt in die Nähe dieser Schwelle.
Der zweite Kern ist die Zuständigkeit. Das Handelsministerium könnte einen Richter anrufen, und ein Bundesrichter am District Court für den District of Columbia könnte die Freigabe aussetzen. Jeder anderen Behörde, jedem anderen Amtsträger verbietet der Text ausdrücklich, Entwicklung, Auslieferung oder internen Einsatz eines Modells anzuhalten.
Prüfer mit Registrierung und 72-Stunden-Frist
Unabhängige Prüfer sollen sich beim Handelsministerium registrieren und Labor und Modelle regelmäßig untersuchen. Bezahlen darf sie das Labor selbst, solange die Zahlung nicht vom Ergebnis abhängt. Stellen sie ein „imminent enumerated risk“ fest, müssen sie das binnen 72 Stunden nach Abschluss ihrer Bewertung ans Ministerium melden.
Das passt zu dem, was Anthropic gerade praktisch vorführt: Über METRs Zugang auf Mitarbeiterniveau habe ich gestern geschrieben.
Dazu kommen Pflichten, die weniger überraschen: Sicherheitsrahmenwerke, Transparenzberichte für neue Frontier-Modelle, Whistleblower-Schutz und Meldung kritischer Vorfälle. Und eine Verdrängungsklausel. Einzelstaatliche Regeln zu Risiko-Offenlegung, Drittprüfung und Vorfallmeldung würden teilweise überschrieben. Genau daran scheitern solche Vorstöße bisher im Kongress: Demokraten wollen die Gesetze aus Kalifornien, Illinois und New York geschützt sehen.
Der Sommer erklärt den Entwurf
Im Sommer trafen Anthropic weitreichende Exportkontrollen. Zwei der fortschrittlichsten Modelle lagen still, entschieden in einer Serie von Telefonaten zwischen Regierungsvertretern und Firmenleitung. Wer das erlebt hat, schreibt danach einen Entwurf, der genau diesen Weg schließt. Übrig bleibt ein Richter.
Legitim ist das, und Eigeninteresse ist es auch. Wer die Regeln der eigenen Branche formuliert, zeichnet den Rahmen, in dem er am besten arbeitet. Auffällig bleibt die Höhe der Schwelle. Eine Milliarde Dollar Schaden oder fünfzig Schwerverletzte sind kein Maßstab für Vorsorge, sondern für Katastrophen.
Im Repräsentantenhaus liegt mit dem FRONTIER Act von Lori Trahan und Jay Obernolte bereits ein Entwurf, der der Regierung mehr Handhabe gäbe. Anthropic hat sich bisher zu keinem Bundesgesetz öffentlich bekannt. Jetzt liegt einer auf dem Tisch, den die Firma selbst geschrieben hat.