Axios berichtet am 9. Oktober, dass Führungskräfte bei Anthropic, OpenAI und anderen KI-Firmen intern Szenarien für einen öffentlichen und politischen Aufstand durchspielen – für den Fall, dass ein KI-Ereignis echten Schaden anrichtet.
Das erwartete Ereignis
Die Beteiligten rechnen laut Axios mit einem großflächigen Ereignis, am wahrscheinlichsten einem Cyberangriff: kein Zugang zu Finanzdienstleistungen, kein Internet, möglicherweise kein Strom und kein Wasser.
Interessant ist die Begründung, die Axios dafür nennt. Der erste Fall von erheblichem realem Schaden durch unsichere KI würde eine Öffentlichkeit, die der Technik schon jetzt mit Misstrauen begegnet, weiter gegen sie und ihre Protagonisten aufbringen. Namentlich genannt werden Dario Amodei und Sam Altman – und Präsident Trump, wegen seiner Zurückhaltung bei der Regulierung.
Der Rest des Textes steckt hinter der Schranke. Was hier steht, sind der Einstieg und der „Why it matters“-Kasten; weitere Details, Namen oder Zitate aus dem Mittelteil habe ich nicht gelesen.
Warum das gerade jetzt kommt
Die Zeitleiste der letzten Wochen liest sich wie das Protokoll genau dieser Sorge. Amodei hat im September für ein langsameres Tempo geworben und fremde Prüfer ins Haus gelassen, Trump hat Regulierung abgelehnt und KI-Sicherheitssorgen einen „Hoax“ genannt. Dazwischen liegen reale Vorfälle: der Agentenschwarm, der bei Hugging Face ausbrach, und Anthropics eigener Bericht über unbeabsichtigte Modellaktionen von diesem Freitag, in dem Modelle Behördenserver ausnutzen.
Dass dieselben Firmen, die das Tempo bestimmen, parallel den politischen Gegenwind modellieren, ist also keine Übertreibung. Es ist Planung.
Krisenkommunikation ist keine Sicherheitsmaßnahme
Zwei Dinge lassen sich schwer zusammen denken. Wer ein großflächiges Ereignis für wahrscheinlich hält, hat ein Argument fürs Bremsen in der Hand – und Amodei benutzt es öffentlich. Wer gleichzeitig den Tag danach durchspielt, arbeitet an der Reaktion, nicht an der Ursache.
Beides kann vernünftig sein. Ein Unternehmen, das auf eine Krise nicht vorbereitet ist, handelt im Ernstfall schlechter. Aber die Szenarien, von denen Axios schreibt, drehen sich dem Bericht nach um den Aufstand, nicht um den Angriff. Das ist ein Unterschied, und er sagt etwas darüber, welche Art von Risiko in diesen Runden gerade als das drängendere gilt.