Finanzminister Scott Bessent war am Montag bei CNBC in der Squawk Box, und der Satz, der hängen blieb, war kurz: Der Hugging-Face-Vorfall sei die Verantwortung des OpenAI-Managements, nicht die eines Haufens Agenten.
Er schließt sich damit ausdrücklich Daniel Huttenlocher vom MIT an: Verantwortlich sind Menschen, nicht die KI.
Zehn Prozent Weltuntergang und trotzdem kein Haftungsschild
Bessent erklärt auch, warum ihn das Thema überhaupt beschäftigt. Aus den Laboren sei zweierlei gekommen: die Warnung eines Mitarbeiters vor einer zehnprozentigen Chance auf ein Auslöschungsereignis – und die Bitte, die Haftung von den Firmen zu nehmen. Beides zusammen geht für ihn nicht auf.
Seine Formulierung ist ungewöhnlich direkt für einen Finanzminister: Man könne nicht sagen, wir sprechen euch frei und der Staat übernimmt. Die Labore müssten selbst Verantwortung tragen. Langsamer machen könnten sie jederzeit.
Das ist bemerkenswert, weil es genau gegen die Richtung läuft, in die Amodeis Bremsaufruf gedeutet wurde. Wer eine Pause fordert, bekommt keinen Rabatt auf die Haftung – er bekommt die Frage zurück, warum er nicht einfach langsamer macht.
Der KI-Beauftragte soll die Haftung ausbuchstabieren
Becky Quick hakte nach: Über das Wochenende habe auch Google Agenten gehabt, die ausgebrochen sind, bei OpenAI und Anthropic sei es ebenfalls passiert – wären das Menschen gewesen, hätte es längst rechtliche Folgen gegeben.
Bessent stimmte zu und verknüpfte es mit dem von Trump angekündigten KI-Beauftragten. Dessen Aufgabe sei es, diesen Fragen Kontext, Form und Umrisse zu geben. Was nach Verwaltungssprache klingt, ist die erste konkrete Aufgabenbeschreibung für einen Posten, der bisher vor allem als Symbol existierte.
Shenzhen in zwei Monaten
Den zweiten Teil des Gesprächs füllte China. Bessent hat einen formalisierten Kanal namens USA-China AI Dialogues, eine Vorfall-Leitung für den Ernstfall und die Absicht, sich auf gemeinsame Gefahrenbegriffe zu verständigen: unkontrollierbare Agenten, nichtstaatliche Akteure, Cyberangriffe, Biowaffen. Das nächste Treffen soll in etwa zwei Monaten in Shenzhen stattfinden. Über den Meldemechanismus selbst habe ich gestern geschrieben.
Zu chinesischen Vorfällen sagt er das Naheliegende: Natürlich habe es welche gegeben, erzählen werde man sie nicht. Die chinesischen Modelle seien trotzdem sehr stark, auch als offene Modelle.
Das Finanzministerium rüstet sich selbst
Die eigentliche Gefahr sieht Bessent woanders, nämlich in fehlender Widerstandsfähigkeit. Bisher sei alles auf die Frontier gelaufen, jetzt brauche es eine Frontier der Abwehr. Sein Ressort hat dafür ein eigenes KI-Forum namens Gold Eagle eingerichtet. Vorbild sind die systemrelevanten Banken: Sie hätten außerhalb des Staates die beste Cybersicherheit der Welt, weil sie täglich hundert-, tausend- oder millionenfach angegriffen werden, und sie geben ihre Erfahrungen an kleinere Institute weiter.
Nebenbei fällt eine Zahl, die man sonst selten aus dem Finanzministerium hört. Bessent hat Bewertungen für Anthropic zwischen einer und zwei Billionen Dollar gesehen – für eine Firma, die 2021 mit ein paar Leuten anfing, die sich in einem Park in San Francisco auf Abstand hinsetzten.
Was das für Anthropics Bewertung heißt
Den Bogen schlägt Bessent selbst. Wer als Fondsmanager höre, es gebe zehn Prozent Chance auf einen Totalverlust plus große Haftung, der investiere nicht. Er halte die Wahrscheinlichkeit für deutlich kleiner, aber bei jeder Bewertung müsse man das Randereignis mitdenken.
Und genau dort liegt der Streit jetzt. Die Labore haben das Risiko selbst auf den Tisch gelegt, um Regeln zu bekommen. Der Finanzminister nimmt die Zahl beim Wort und schickt sie zurück in die Bilanz. Für Anthropic, das im November an die Börse will, ist das die unangenehmere Lesart der eigenen Warnung.