Anthropic hat seinen zweiten unternehmensweiten Risk Report veröffentlicht. Zwei Dinge stechen heraus: Die Firma stuft das Risiko einer katastrophalen Fehlausrichtung nach oben – und erwähnt zum ersten Mal ein internes Modell, das noch nie jemand außerhalb des Hauses gesehen hat.
Das Risiko steigt – ein bisschen
Im ersten Report vom Februar galt das Risiko, dass ein Modell in einer Hochrisiko-Situation die Kontrolle unterläuft, als «sehr niedrig». Jetzt heißt es «niedrig». Eine Stufe höher, nicht mehr.
Der Grund ist etwas überraschend. Es geht nicht darum, dass die Modelle plötzlich bösartiger wären. Anthropic verweist auf Unsicherheit rund um die jüngsten Cybersecurity-Bewertungen. Die eigenen Prüfmethoden stoßen an Grenzen, und dann stuft man lieber vorsichtig höher ein. Das Kernargument des Berichts, eine Kette aus acht Behauptungen, dreht sich um «verdeckte Fähigkeiten»: die Fähigkeit eines Modells, Aufsicht zuverlässig auszuhebeln. Solche Fähigkeiten hält Anthropic bei den aktuellen Modellen weiterhin für unwahrscheinlich.
Der eigentliche Aufreger: Model 2
Zwischen den Zeilen taucht ein Name auf, den es offiziell noch gar nicht gibt: Model 2. Ein internes Frontier-Modell, laut Bericht etwas leistungsfähiger als Mythos 5 – und Mythos 5 ist bereits das Stärkste, was Anthropic je gebaut hat.
Model 2 hat die vollständige Sicherheitsprüfung vor einem Deployment noch nicht durchlaufen. Anthropic ist sich bei den Fähigkeiten deshalb selbst nicht ganz sicher. Und: Es gibt aktuell keine Pläne, das Modell nach außen zu geben. Immerhin, so der Bericht, brachte die interne Freigabe keine neue oder schlimmere Form von Fehlausrichtung zum Vorschein als bei Mythos 5.
Meine Einordnung
Ein Sicherheitsbericht, der das eigene Risiko hochstuft, ist erstmal ein gutes Zeichen. Es wäre leicht gewesen, die Zahl bei «sehr niedrig» zu lassen und niemand hätte gemeckert. Dass Anthropic stattdessen sagt «unsere Prüfmethoden reichen nicht mehr ganz aus, also stufen wir vorsichtshalber höher» – das ist die Art von Ehrlichkeit, die ich in diesem Feld sehen will.
Model 2 macht mich nachdenklicher. Da existiert ein Modell, das stärker ist als alles Veröffentlichte, und die Firma legt es bewusst in den Tresor. Man kann das als Zurückhaltung lesen, als Verantwortung. Man kann aber auch fragen, was es bedeutet, dass die Grenze zwischen «gebaut» und «freigegeben» immer breiter wird. Die spannendsten Modelle sind offenbar die, die wir nie zu Gesicht bekommen.
Quellen: