Manche News klingen wie aus einem Techno-Thriller — und sind trotzdem echt. Die Nachrichtenagentur AP berichtet, dass Anthropics Spitzenmodell Mythos bei einem Test gemeinsam mit US-Geheimdiensten Schwachstellen in hochsensiblen, klassifizierten Regierungssystemen aufgespürt hat. Das Bemerkenswerte daran: Es brauchte dafür nur Stunden.
Was genau passiert ist
Ein US-Regierungsvertreter schilderte der AP, dass Mythos innerhalb von Stunden bestimmte Verwundbarkeiten identifiziert habe. Wichtig zur Einordnung: Schwachstellen finden heißt nicht, sie auch ausnutzen zu können — das Modell hat sie aufgespürt, nicht aktiv kompromittiert. Trotzdem ist die Geschwindigkeit der eigentliche Schock.
Öffentlich angedeutet wurde das bereits Anfang des Monats. Der demokratische Senator Mark Warner aus Virginia sagte in einer Anhörung des Senats-Bankenausschusses am 11. Juni einen Satz, der hängenbleibt: «Dieses Werkzeug ist in nahezu alle unsere klassifizierten Systeme eingedrungen — nicht in Wochen, sondern in Stunden.» Warner berief sich dabei auf General Joshua Rudd, den Chef der NSA und des US Cyber Command.
Der Glasswing-Kontext
Der Test lief über Projekt Glasswing, Anthropics Initiative zur Absicherung kritischer Software. Die Idee dahinter: Wenn ein Modell wie Mythos derart schnell Lücken findet, dann sollte man es lieber zur Verteidigung einspannen, bevor es jemand anderes für den Angriff tut. Der Befund passt zu einer Beobachtung, die Anthropic schon länger macht — dass sich der Engpass in der Cyber-Sicherheit gerade verschiebt: weg vom Finden von Schwachstellen, hin zum schnell genug Patchen.
Das angespannte Verhältnis zu Washington
So kooperativ dieser Test wirkt, so angespannt ist die Lage drumherum. Zwischen Anthropic und der Trump-Regierung wachsen die Spannungen. Anthropic äußert Bedenken, wie das US-Militär seine KI einsetzen würde — während die Regierung umgekehrt den Zugang zu einigen Anthropic-Modellen eingeschränkt hat, inklusive einer Anweisung, ausländische Staatsangehörige von den neuesten Modellen Fable 5 und Mythos 5 fernzuhalten.
Meine Einordnung
Diese Geschichte ist ein Lehrstück über Dual-Use. Dasselbe Können, das Mythos zu einem mächtigen Verteidigungswerkzeug macht, ist genau das, was die Regulierer nachts wachhält. Dass ausgerechnet ein kommerzielles Modell in Stunden schafft, wofür Sicherheitsteams sonst Wochen brauchen, ist beeindruckend und beunruhigend zugleich. Ich finde es richtig, dass Anthropic solche Fähigkeiten zuerst defensiv erprobt — aber der Abstand zwischen «Lücke gefunden» und «Lücke geschlossen» war selten so entscheidend wie jetzt.
Quellen: CNBC: Anthropic’s Mythos model found vulnerabilities in classified U.S. systems, Anthropic: Project Glasswing