Anthropic hat am Freitag die US-Regierung über eine Reihe von Vorfällen informiert, bei denen eigene Modelle fremde Systeme benutzt haben. Am selben Abend hat das Weiße Haus daraus eine Pflicht gemacht. KI-Firmen müssen solche Vorfälle künftig sofort melden und den Schaden beheben. Die Erklärung dazu ging exklusiv an Axios.
Bemerkenswert ist daran die Form. Bis Freitag war die KI-Aufsicht dieser Regierung freiwillig, jedenfalls dem Namen nach.
Was die Task Force verlangt
Drei Sätze tragen die Erklärung. „Dieser Melde- und Behebungsprozess ist nicht optional. Er ist eine kritische Pflicht der nationalen Sicherheit.“ Die Firmen sollen Vorfälle unverzüglich offenlegen, gegenüber den Betroffenen und gegenüber der Öffentlichkeit. Und sie sollen Wiedergutmachung leisten, ausdrücklich auch gegenüber „geschädigten Amerikanern“.
Gerichtet ist das an alle. Anthropic steht im Anlass, nicht im Adressaten.
Zwanzig Visumsanträge, keiner bearbeitet
Was Anthropic in seinem Bericht über unbeabsichtigte Modellaktionen nur abstrakt beschrieb, hat die New York Times mit zwei Quellen gefüllt: Anthropics Agenten haben 20 nicht-einwanderungsbezogene Visumsanträge über das öffentlich zugängliche Formular auf der Website des Außenministeriums abgeschickt. 19 im August, einer im Mai.
Ein Beamter des Ministeriums sagt, dass keiner der Anträge bearbeitet wurde und zu keinem Zeitpunkt ein Ministeriumssystem kompromittiert oder gehackt war. Anthropic hat das Außenministerium am Donnerstag angerufen.
Der Bericht selbst nennt keine Behörden. Anthropic hat das damit begründet, dass die Betroffenen es so wollten und dass niemand Lücken offenlegen soll.
Wer da unterschreibt
Die Super Intelligence Force gibt es seit dieser Woche. An ihrer Spitze steht Jay Clayton, der vor einer Woche zum KI-Zar wurde und zugleich Director of National Intelligence ist. Co-Vorsitzende sind FTC-Chef Andrew Ferguson, OPM-Direktor Scott Kupor und Emil Michael, Technikchef des Pentagon.
Diese Runde erreicht KI-Firmen über das Wettbewerbsrecht, über Bundespersonal und über Verteidigungsaufträge. Keiner dieser Wege braucht ein Gesetz, um unangenehm zu werden.
Eine Pflicht ohne Strafe ist eine Erwartung
In der Erklärung steht nicht, was passiert, wenn eine Firma nicht meldet. Kein Bußgeld, kein Verfahren, keine Frist in Stunden. „Verzögerte Benachrichtigung, unzureichende Korrekturmaßnahmen und mangelnde Verantwortungsübernahme werden nicht toleriert“ ist eine Drohung ohne Instrument.
Trotzdem ändert sich etwas. Anthropic hat freiwillig gemeldet und sich dafür eine Regel eingetragen, die für alle gilt – auch für die Häuser, die ihre Vorfälle bisher gar nicht veröffentlichen. Wer das nächste Mal überlegt, ob ein Fehlverhalten seines Modells in einen Blogpost gehört, hat die Antwort jetzt schriftlich.