Als Dario Amodei vor einer Woche eingebettete Prüfer ins Haus lassen wollte, war das ein Absatz in einem Essay. Seit Donnerstag hat er einen Namen: Accenture.
Was «eingebettet» hier heißt
Externe Evaluatoren bekommen sonst ein Modell und ein paar Wochen Zeit. Eingebettete Prüfer sitzen bei Anthropic, mit dem Zugang normaler Mitarbeiter. Sie sehen Modelle im Training entstehen, verfolgen die Entscheidungen, die über Bau und Ausrollen bestimmen, und können mit den Leuten reden, die sie getroffen haben.
Der Auftrag umfasst Modellprüfung, Red-Teaming, Alignment-Bewertungen und Tests der Schutzmechanismen. Anthropic schreibt dazu einen Satz, den man zweimal lesen sollte: Unabhängige eingebettete Prüfer verringern die eigene Verantwortung nicht, sie machen sie überprüfbar.
Faculty, nicht Beratungsgeschäft
Die Prüfer kommen nicht aus Accentures Standardgeschäft, sondern von Faculty — dem britischen KI-Haus, das Accenture gekauft hat. Faculty testet seit Jahren Modelle für große Labore und hat für den NHS während der Pandemie das Frühwarnsystem gebaut. Marc Warner, dort Chef und inzwischen Technikvorstand bei Accenture, sagt, KI solle «safe by design» sein, nicht «safe by accident».
Zum Geld: Beide Firmen erwarten, über fünf Jahre jeweils mindestens eine Milliarde Dollar in sicher gebaute KI zu stecken. Anthropics eigene Mitteilung formuliert das unschärfer als Accentures Pressetext, der ausdrücklich von «each company» spricht.
Weitere Partnerschaften sollen folgen, unter anderem mit gemeinnützigen Prüfern wie METR.
Ein Prüfer, den der Geprüfte bezahlt
Der offensichtliche Einwand bleibt stehen: Accenture wird von Anthropic bezahlt und sitzt in Anthropics Büros. Das ist keine Aufsicht, das ist eine sehr gut ausgestattete interne Revision mit fremdem Briefkopf.
Trotzdem ist es mehr als das, was es vorher gab. Ein externer Test misst ein fertiges Modell; wer beim Training zusieht, sieht die Abkürzungen. Interessant wird es an dem Tag, an dem Faculty etwas findet, das einen Start verschiebt — und wir davon erfahren. Bis dahin ist das eine Milliarde Dollar teure Absichtserklärung.