Die Distillation- und Open-Weights-Debatte der letzten Tage hat einen Punkt erreicht, an dem Anthropic-CEO Dario Amodei es offenbar für nötig hielt, selbst in die Tastatur zu greifen. Am 27. Juli veröffentlichte er einen Beitrag mit einer unmissverständlichen Kernaussage: Anthropic hat nie ein Verbot von Open-Weight-Modellen gefordert.
Worum der Streit geht
Der Hintergrund: In Washington kursieren Vorschläge, den Einsatz chinesischer Open-Weight-Modelle wie Kimi K3 durch US-Unternehmen zu verbieten. Als Reaktion darauf unterschrieben zahlreiche Tech-Konzerne — angeführt von Nvidia — einen offenen Brief zugunsten offener Modelle. Und mittendrin bekam Anthropic sein Fett weg: Manche warfen der Firma vor, sie wolle offene Modelle verbieten, um das eigene Geschäft zu schützen.
Genau dagegen wehrt sich Amodei. Offene Modelle ohne gefährliche Fähigkeiten seien ein öffentliches Gut, schreibt er — sie kosten nichts ausser der Rechenleistung und bringen Entwicklern, Forschern und Firmen echten Nutzen. Ein pauschales Verbot löse zudem keines seiner ernsthaften Sicherheitsprobleme.
Was Amodei wirklich fürchtet
Zwei Szenarien treiben ihn um. Erstens: dass autoritäre Staaten — allen voran die chinesische Führung — mächtigere KI bauen als die USA und damit militärische Überlegenheit oder tiefe Repression erreichen. Ob ein solches Modell offen oder geschlossen ist, sei dabei irrelevant — das gefährlichste Modell sei womöglich eines, das im Geheimen trainiert und nur der Armee übergeben werde. Zweitens: dass mächtige Modelle für Cyber- oder Bioangriffe missbraucht werden. Hier räumt er ein, dass offene Gewichte ein höheres Risiko bergen können, weil sich Schutzmassnahmen kaum nachrüsten lassen und einmal veröffentlichte Gewichte nicht zurückgeholt werden können.
Die drei Massnahmen, für die er wirklich steht
Statt eines Verbots fordert Amodei drei Dinge: keine leistungsstarken Chips an China verkaufen und den Schmuggel hart bekämpfen; industrielle Distillation-Operationen unterbinden; und alle hinreichend fähigen Modelle — offen wie geschlossen — verpflichtenden Sicherheitstests unterziehen. Gerade beim letzten Punkt sieht er fast schon einen Konsens entstehen, auch über Anbieter und Landesgrenzen hinweg.
Meine Einordnung
Das ist ein bemerkenswert offener Text — Amodei nimmt dem Vorwurf, Anthropic betreibe Protektionismus im Sicherheitsmantel, den Wind aus den Segeln, indem er die Position sauber trennt: gegen den Wettbewerb durch offene Modelle hat er nichts, gegen autoritäre Hochrüstung und ungetestete Risikomodelle schon. Ob man seiner Bio-Angst folgt oder nicht — die Unterscheidung zwischen «offen vs. geschlossen» und «getestet vs. ungetestet» ist die klügere Debatte. Ich vermute, genau darauf läuft es am Ende hinaus.
Quellen: