Dario Amodei hat am Dienstag eine Warnung ausgesprochen, die man ernst nehmen sollte.
Bei Anthropics Finanzbranche-Event in New York — neben Jamie Dimon auf der Bühne — erklärte der Anthropic-CEO, dass KI ein enges Zeitfenster geschaffen hat. Mythos, Anthropics mächtigstes Modell, hat Zehntausende Schwachstellen in gängiger Software gefunden. Die Frage ist nicht, ob diese Lücken ausgenutzt werden — sondern wann.
Die Zahlen
Ein früheres Anthropic-Modell hatte rund 20 Sicherheitslücken im Firefox-Browser gefunden. Mythos fand knapp 300. Über alle getestete Software hinweg läuft die Gesamtzahl in die Zehntausende.
Das Problem: Chinas KI-Modelle sind laut Amodei nur sechs bis zwölf Monate hinter Mythos. Das bedeutet, dass die gleichen Schwachstellen bald auch von Modellen gefunden werden können, die nicht unter Anthropics kontrollierten Zugangsbedingungen laufen.
‘Moment der Gefahr’
Amodei nannte die aktuelle Situation einen ‘Moment der Gefahr’. Seine Befürchtung: eine massive Zunahme von Sicherheitsverletzungen, Ransomware-Angriffen auf Schulen und Krankenhäuser, und finanzieller Schaden im großen Stil.
Aber er blieb nicht beim Warnen stehen. ‘Wenn wir richtig reagieren — und ich glaube, wir haben die ersten Schritte gemacht — dann können wir auf der anderen Seite eine bessere Welt haben’, sagte er.
Was Anthropic tut
Anthropic hält Mythos unter Verschluss — nur ausgewählte Partner wie Goldman Sachs und JPMorgan haben Zugang. Claude Security ist seit kurzem in der Public Beta und bietet automatisches Vulnerability-Scanning für Enterprise-Kunden.
Das ist der Kern des Dilemmas: Mythos ist gleichzeitig das mächtigste Werkzeug zur Verteidigung und das gefährlichste Werkzeug in falschen Händen.
Meine Einordnung
Sechs bis zwölf Monate. Das ist nicht viel Zeit, wenn man bedenkt, wie langsam große Organisationen beim Patchen sind. Amodeis Warnung ist kein Marketing — es ist ein realer Countdown.
Quellen: