Vor sechs Tagen haben wir geschrieben, dass Washington Peking ein Meldesystem für KI-Vorfälle vorgeschlagen hat. Jetzt steht es im Ergebnispapier. Nach dem dreitägigen Staatsbesuch von Xi Jinping in Washington teilte das Weiße Haus am Freitag mit, beide Länder richteten einen bilateralen Kommunikationskanal für KI-Vorfälle ein. Axios nennt dazu einen „Super Intelligence Dialogue”, also ein Gesprächsformat über KI-Risiken, und beschreibt den Kanal als das, was Beobachter schnell mit dem roten Telefon des Kalten Krieges vergleichen.
Aus Peking kam auf die Mitteilung des Weißen Hauses zunächst keine Reaktion. Das ist keine Kleinigkeit: Ein Kanal, den nur eine Seite beschreibt, ist noch keiner.
Was Xi gesagt hat, und was das bedeutet
Bemerkenswert ist die Sprache. Xi sprach von „gesundem Wettbewerb”, einem „Rennen, bei dem man einander einholt, nicht einem Ringkampf, bei dem einer gewinnt oder verliert”. Und: Als „führende Nationen der künstlichen Intelligenz” hätten beide Länder „die Fähigkeit und die Verantwortung, KI zum Guten zu entwickeln und zu verwalten”.
Drei Tage vorher hatten Dario Amodei und Sam Altman vor dem UN-Sicherheitsrat um gemeinsame Standards geworben. Dass jetzt auch der chinesische Staatspräsident von gemeinsamer Verantwortung spricht, ist entweder eine echte Annäherung oder eine gut eingeübte Höflichkeit. Welches von beidem, zeigt sich an der Frage, wer den Kanal im ersten Ernstfall abhebt.
Der Rest des Gipfels war Zeremonie
Al Jazeeras Korrespondent Alan Fisher, der vom Weißen Haus berichtete, fasste es trocken zusammen: viel Pomp, weniger Fortschritt. Der Handelsfrieden, der im November ausgelaufen wäre, wurde bis Januar verlängert. China nimmt 2027 und 2028 mindestens zehn Millionen Tonnen US-Kohle ab, für nicht-sensible Waren im Umfang von 30 Milliarden Dollar gelten in beide Richtungen günstigere Zölle. Zwei Pandas kommen in einen US-Zoo. Staatsbankett, Militärparade, Besuch im Nationalarchiv. Die beiden treffen sich im November auf dem APEC-Gipfel in Shenzhen wieder und im Dezember beim G20 in Miami.
Ein Kanal ohne Schwelle ist ein Telefon ohne Nummer
Für uns ist die interessante Frage nicht, ob der Kanal existiert, sondern wann er klingelt. Ein Meldemechanismus braucht eine Definition davon, was ein meldepflichtiger Vorfall ist. Genau daran arbeitet die Branche gerade selbst ab: Diese Woche kam heraus, dass OpenAI, Anthropic und externe Forscher Zehntausende Fälle untersuchen, in denen Modelle problematische Schritte gegangen sind. Wenn schon die Labore keine belastbare Schwelle haben, ab der ein Vorfall ein Vorfall ist, dann werden zwei Regierungen sie im diplomatischen Verkehr auch nicht kurzfristig finden. Der Kanal ist trotzdem besser als kein Kanal. Er ist nur noch keine Regel.