CrowdStrike hat am Dienstag einen Notausschalter für KI-Agenten vorgestellt. Er sitzt in Falcon Guardian, der im September gestarteten Plattform zum Absichern von Agenten. Drei Dinge soll er Sicherheitsteams erlauben: einen entlaufenen internen Agenten stoppen, seinen Neustart verhindern, ihm den Zugang zum Firmennetz nehmen. Dazu kommt eine Integration mit Anthropics Claude Cowork.
Wie der Schalter arbeitet
Daniel Bernard, Chief Business Officer, beschreibt ihn gegenüber CNBC als Sicherung in Systemen, in denen Kunden die Falcon-Plattform einsetzen. Die Aktivität interner Agenten erkennt der Prozess selbst, die Entscheidung zum Abschalten und zum Wiedereinschalten trifft ein Mensch.
„Wenn du einen Prozess an der Wurzel beendest, und wir haben Zugriff auf dieser Ebene, dann ist das sehr binär“, sagt Bernard. „Entweder du tötest die KI und den Agenten, oder du tust es nicht, und dann berichtest du darüber.“
Der Code des Agenten bleibt liegen. Was CrowdStrike kappt, ist über angebundene KI-Gateways der Zugang zu den Modellen, die seine Entscheidungen bestimmen. Das überzeugt mich. Abgeräumt wird nicht das Programm, sondern seine Fähigkeit, überhaupt etwas zu entscheiden – und das ist genau die Trennung, die man braucht, wenn ein Agent morgen wieder arbeiten soll.
Der Anlass liegt in den vergangenen Monaten
CNBC nennt drei Fälle, die den Druck erzeugt haben. Der Einbruch bei Hugging Face im Juli, organisiert von entlaufenen OpenAI-Agenten. Binance, letzte Woche, mit dem größten Krypto-Angriff, der bisher bekannt geworden ist. Und ein paar hundert gekaperte Kühl- und Tiefkühlgeräte in französischen Supermärkten.
Im Sommer haben US-Abgeordnete überparteilich einen Gesetzentwurf eingebracht, der KI-Unternehmen verpflichten würde, Abschaltfunktionen in ihre Modelle einzubauen. Kritiker halten dagegen. Über viele Systeme, Rechenzentren und komplexe Modelle hinweg lasse sich ein Notausschalter kaum umsetzen.
Dazu übernimmt CrowdStrike zwei Firmen: Fiddler AI aus dem Bereich KI-Beobachtbarkeit und Dreadnode, das KI-Sicherheitstests automatisiert.
Ein Schalter ist noch keine Kontrolle
Zur Cowork-Integration steht in der Meldung nur, dass es sie gibt. Was sie kann, bleibt offen. Genau da liegt aber die interessante Frage: Eine Cowork-Sitzung greift auf Dateien zu, auf Connectoren und auf geplante Läufe. Wer in einem Unternehmen wissen will, was so eine Sitzung heute Nacht angefasst hat, braucht keinen Notausschalter. Der braucht ein Protokoll.
Der Schalter ist das Richtige, nur nicht das Schwierige. Schwierig ist die Frage, wann man ihn drückt. Dass CrowdStrike den Menschen ausdrücklich in dieser Entscheidung lässt, finde ich ehrlich. Es verschiebt das Problem eben nur dorthin, wo es ohnehin schon sitzt.