Gestern Abend hat «The Information» berichtet, dass Anthropic, OpenAI und Google über eine gemeinsame Standardorganisation für KI-Sicherheit gesprochen haben. Der Gedanke dahinter: Die drei größten Frontier-Labore legen die Standards fest, an denen ihre eigenen Modelle geprüft werden.
Für Unternehmen, die überlegen, ob sie ein Frontier-Modell auf heikle Aufgaben loslassen, wären einheitliche Standards eine Erleichterung. Man wüsste, woran man ist. Die Kehrseite steht schon in einer OECD-Analyse: Hohe Fixkosten, knappe Rechenleistung und konzentrierte Infrastruktur machen den Markteintritt ohnehin schwer. Prüfkosten, die drei große Anbieter definieren, wären eine weitere Hürde für alle anderen.
Was schon auf dem Tisch liegt
Am 14. Juli hat Demis Hassabis, Chef von Google DeepMind, ein US-Gremium nach dem Vorbild der Finanzaufsicht FINRA vorgeschlagen. Labore reichen ihre Frontier-Technik freiwillig ein, Prüfer haben 30 Tage Zeit und schauen auf Cyber-, Bio- und Manipulationsrisiken. Später soll das Bestehen der Prüfung Bedingung für den Einsatz in den USA werden. Der Council on Foreign Relations berichtete, das Weiße Haus habe die Idee bereits geprüft.
Dario Amodei geht in «We Must Pace the Frontier» einen anderen Weg: unabhängige Prüfer wie METR, die in den Laboren selbst arbeiten. Und Chris Lehane von OpenAI hat schon länger einen globalen Rahmen gefordert, an dem sich die USA und China beteiligen – sein Vergleich war die internationale Zusammenarbeit bei Nuklearfragen.
Ein Forum gibt es übrigens längst. Anthropic, Google, Microsoft und OpenAI betreiben seit Jahren das Frontier Model Forum, das technische Evaluierungen bündelt und Sicherheitsforschung finanziert.
Warum ich das lese
Zwei Dinge fallen auf.
Erstens: Genau das hat David Sacks gestern abgeräumt. Der PCAST-Vorsitzende lehnt eine kartellrechtliche Ausnahme ab, damit sich die Labore über Sicherheit abstimmen dürfen – für ihn wäre das ein Kartell. Ein Gremium, das die drei größten Anbieter selbst betreiben, ist die Variante, die keine Ausnahme braucht, weil sie nach außen freiwillig aussieht. Ob das rechtlich trägt, ist eine andere Frage.
Zweitens: Das Future of Life Institute hat diesen Sommer einen Sicherheitsindex veröffentlicht, in dem Anthropic mit C+ (2,66) am besten abschneidet, vor OpenAI mit C (2,28) und Google DeepMind mit C (2,01). Wer Standards setzt, entscheidet auch darüber, wo die Latte hängt. Bei diesen Noten liegt die Vermutung nahe, dass sie nicht höher gehängt wird, als der Schwächste springen kann.
Bleibt die Frage, die keine Meldung beantwortet: Wer zahlt für Sicherheit? Der Preis sind verschobene Starts und Umsatz, der nicht kommt. Solange die Labore gleichzeitig um denselben Markt rennen, ist das der schwierige Teil – und nicht die Frage, wie das Gremium heißt.
Quellen: