Vom Bedrohungsbericht, den Anthropic am Donnerstag veröffentlicht hat, blieb zunächst das Cyberkapitel hängen. Die Financial Times und Bloomberg haben sich seitdem das Kapitel danebengelegt: Waffen. Es liest sich anders.
Fünf Fälle Biologie
Anthropic beschreibt fünf Fallstudien, in denen Nutzer die Kontrollen umgingen und den Zweck ihrer Anfragen verschleierten, und in allen fünf saßen die Leute in Ländern, aus denen die Firma den Zugang ohnehin nicht erlaubt. Russland, China, Iran.
In einem Fall plante ein Forscher aus einer nicht unterstützten Region wochenlang Experimente mit Vogelgrippe. Die Sicherheitsfilter drückten ihn dabei auf die schwächsten Modelle herunter. In einem anderen ging es um eine verstärkte Variante des Chikungunya-Virus. Staatlich finanzierte Virologen ließen sich beim Schreiben von Förderanträgen für militärische Forschung helfen.
Anthropic sagt dazu selbst den unbequemen Satz: Ob diese Leute Schaden anrichten wollten, weiß die Firma nicht. Wer eine Pandemie plant und wer einen Impfstoff entwickelt, braucht über weite Strecken dieselben Informationen.
Drohnen und Raketen
Neben der Biologie steht das konventionelle Kapitel. Russische Nutzer ohne erkennbare Staatsanbindung arbeiteten an Software für autonome Kamikaze-Drohnenschwärme, trainiert auf Aufnahmen aus dem Ukrainekrieg. Akteure unter Kontrolle der Huthi im Jemen nutzten Claude für Raketensoftware - dass daraus je ein einsatzfähiges Gerät wurde, dafür fand Anthropic keine Belege.
Alle betroffenen Konten sind gesperrt. Namen von Instituten oder Ländern nennt der Bericht nicht. Und: Fable und Mythos tauchen in keinem dieser Fälle auf, es ging durchweg um die kleineren Modelle.
Warum ich das lese
Anthropic schreibt, man wolle mit diesen Beispielen ein Gespräch anstoßen - in der Branche und mit Regierungen. Das klingt nach PR, ist hier aber der ehrlichere Teil: Die Firma legt offen, dass ihre Filter fünfmal umgangen wurden, und liefert die Fälle gleich mit.
Was mir hängen bleibt, ist die Doppeldeutigkeit. Beim Cyberkapitel kann man sagen, wer angreift, greift an. Bei der Biologie geht das nicht. Dieselbe Frage zur Vogelgrippe kann aus einem Labor kommen, das einen Ausbruch verhindern will - oder aus einem, das einen plant. Ein Filter kann das nicht unterscheiden. Eine Absender-IP schon eher, und genau daran hing es in diesen fünf Fällen.
Quellen: