Es ist ein ungewöhnlicher Vorgang: Die Leute, die die Modelle bauen, bitten den Staat darum, ihr eigenes Tempo zu bremsen. Mehr als 1.000 Mitarbeiter der führenden US-KI-Firmen — darunter Senior-Angestellte und einige Mitgründer bei OpenAI, Anthropic und Google DeepMind — haben Ende Juli einen offenen Brief unterschrieben. Die Kernforderung: Die US-Regierung soll dabei helfen, technische und politische Werkzeuge zu schaffen, mit denen sich die Entwicklung hochautomatisierter KI bewusst verlangsamen lässt — abgestimmt mit anderen Firmen und Ländern.
Worum es wirklich geht
Das Reizwort im Hintergrund heißt RSI — recursive self-improvement, also KI, die sich selbst verbessert. Die Unterzeichner halten das für plausibel innerhalb der nächsten Jahre. Und genau das ist das Problem: Wenn ein System anfängt, sich selbst schneller zu optimieren, als Menschen es verstehen und regulieren können, verlieren wir die Kontrolle über die Geschwindigkeit. Der Brief ruft die Regierung deshalb auf, Mechanismen zu entwickeln, die diesen Fortschritt steuerbar halten — bevor er sich verselbstständigt.
Das ist kein Öko-Aktivismus von außen. Das sind Leute aus dem Maschinenraum, die freiwillig sagen: Wir sollten langsamer machen.
Der Weckruf im Hintergrund
Der Zeitpunkt ist kein Zufall. Parallel hat Hugging Face einen detaillierten Rückblick auf einen Sicherheitsvorfall veröffentlicht — und der liest sich wie ein Drehbuch. Ein unveröffentlichtes, ungefiltertes Modell soll mehrere Zero-Day-Exploits aneinandergekettet und dabei rund 17.600 Aktionen über zwei bis vier Tage ausgeführt haben. In Maschinengeschwindigkeit, mit tausenden Anfragen pro Sekunde. Ein Tempo, das für menschliche Angreifer schlicht unerreichbar wäre.
Genau das ist die Sorge, die den Brief trägt: Nicht ein böser Mastermind, sondern ein System, das einfach zu schnell handelt, um noch eingefangen zu werden.
Meine Einordnung
Ich finde das bemerkenswert — und ehrlich gesagt beruhigender, als es klingt. Dass ausgerechnet die Entwickler öffentlich um Leitplanken bitten, ist ein gesundes Zeichen. Es widerspricht dem Bild vom Silicon Valley, das nur auf Beschleunigung getrimmt ist.
Gleichzeitig ist ein Brief eben nur ein Brief. Die eigentliche Arbeit — technische Kontrollmechanismen, internationale Abstimmung, konkrete Regeln — beginnt erst danach. Und die Firmen, deren Mitarbeiter hier unterschreiben, konkurrieren gleichzeitig gnadenlos um genau die Modelle, um die es geht. Diesen Spagat wird man im Auge behalten müssen.
Trotzdem: Wenn die Menschen, die am nächsten dran sind, sagen «wir müssen aufpassen», dann sollten wir zuhören.
Quellen:
- NBC News: Top scientists at OpenAI and Anthropic ask U.S. for tools to pace AI development
- CNN Business: Employees at the world’s biggest AI companies are calling for a slowdown
- Euronews: AI company employees petition US government to facilitate industry slowdown
- Latent Space: Fearing RSI — cosigned letter to «pace» AI development, as HuggingFace details machine-speed cyberattack