Anthropic hat am Mittwoch bekannt gegeben, dass ein Team der gemeinnützigen Organisation METR seit Kurzem „employee-like access“ bekommt: Zugang zu internen Werkzeugen und Systemen ungefähr auf dem Niveau der eigenen Risikoteams. Sechs METR-Leute sind mit Firmenhardware und Büroplatz eingerichtet. METR veröffentlicht die Ergebnisse seiner Risikobewertungen selbst.
Was „wie ein Angestellter“ bedeutet
Anthropics Mitarbeiter sind angehalten, mit diesen sechs Personen so zu sprechen wie mit einer Kollegin aus dem Alignment-Team. Ausgenommen sind wenige fest umrissene Kategorien: Kundendaten, anwaltlich geschützte Informationen und Angaben zur Modellarchitektur.
Der interessante Teil steht beim Veröffentlichen. METR analysiert Risikoniveaus, Vorfälle und Praktiken und publiziert das. Anthropic hat kein Vetorecht. Das Unternehmen darf Schwärzungen verlangen, aber nur in den vorab definierten Kategorien – und METR darf öffentlich beschreiben, dass geschwärzt wurde und ob es das für gerechtfertigt hält, solange es den Inhalt nicht preisgibt.
Abgeschottet wird in die andere Richtung: Nur dieses kleine Team arbeitet unter den Vereinbarungen, andere METR-Beschäftigte sind davon getrennt, auch Forschende, die mit Anthropic an anderen Projekten arbeiten.
Drei Stufen, und METR sitzt auf der dritten
Anthropic baut das als Stufenmodell. Auf Stufe eins führen Prüfer eng begrenzte Untersuchungen durch, Anthropic entscheidet über den Zugang, und die Veröffentlichung braucht Zustimmung. Auf Stufe zwei entfällt die Zustimmung, der Informationszugang wächst, Schwärzungen in festen Kategorien bleiben möglich. Stufe drei ist die METR-Konstruktion.
Weitere Partner sind unterwegs. SecureBio prüft gerade das Kapitel zu chemischen und biologischen Waffen aus dem August-Risikobericht, nachdem es eine Pilotprüfung des Vorgängerberichts abgeschlossen und veröffentlicht hat. Mit Accenture und Faculty geht es um Red-Teaming, Alignment-Bewertungen und Tests der Schutzmechanismen. Mit Hugging Face laufen frühe Gespräche.
Der Bankenvergleich stammt von Anthropic selbst
Das Unternehmen zieht in dem Beitrag die Parallele zur Bankenaufsicht: Weil eine Bank ihre Risiken besser kennt als jeder Außenstehende, setzen Aufseher ständige Prüfer in die großen Häuser. Der Vergleich ist bemerkenswert offen, denn er beschreibt nicht freiwillige Transparenz, sondern Aufsicht.
Zwei Dinge fallen mir auf. Erstens: Dass Anthropic kein Vetorecht hat, ist der Satz, an dem sich die ganze Konstruktion messen lässt – alles andere ist Zugangsorganisation. Zweitens ist das Ganze eine Selbstverpflichtung, kein Gesetz. Anthropic hat im Rahmen des White House Accord on Super Intelligence zugesagt, mit unabhängigen Prüfern zu arbeiten, und legt jetzt vor, wie das bei ihm aussieht. Was fehlt, ist der erste veröffentlichte METR-Bericht, der zeigt, wie viel von dem Zugang in der Praxis übrig bleibt.