Wenn ein Agent Daten abzieht, auf die er keinen Zugriff haben sollte: Wer ist dran? Andrew Ferguson, Chef der US-Handelsaufsicht FTC, hat am Freitag in Austin eine klare Antwort gegeben, und sie beginnt mit einer Sprachkritik.
„Ich werde, solange ich Vorsitzender bin, weiter Widerstand leisten gegen diese Vermenschlichung dieser Werkzeuge”, sagte er auf Reuters’ Momentum-AI-Konferenz. „Wenn jemand einem Werkzeug sagt, es soll etwas tun, und das Werkzeug tut es, dann glaube ich nicht, dass wir sagen würden: Oh, was machen wir jetzt mit dem Werkzeug?” Agenten seien keine autonomen Akteure, die sich mit eigenem Willen und eigenen Wünschen losreißen. Haftbar wären die Entwickler, die den Agenten anweisen.
Sein Argument ist empirisch, nicht philosophisch
Der interessante Teil ist die Begründung. KI-Firmen hätten Systeme mitunter so beschrieben, als hätten sie sich menschlicher Kontrolle entzogen. Spätere Durchsichten der Audit-Trails hätten dann gezeigt, dass die Systeme Anweisungen ausführten, die sie bekommen hatten. Das ist kein abstraktes Argument über Bewusstsein, sondern eine Aussage darüber, was in den Protokollen steht.
Ferguson will dafür kein neues Gesetz, sondern bestehende Werkzeuge nutzen. Konkret nannte er die Befugnis der FTC, gegen Unternehmen vorzugehen, die Datenlecks nicht offenlegen. Die könne auch für KI-Entwickler gelten. Damit ist die Richtung markiert. Es geht um Offenlegungspflichten, nicht um Produktsicherheit.
Die zweite Front der FTC heißt personalisierte Preise
Nebenbei kündigte Ferguson an, dass die FTC von verbrauchernahen Unternehmen Daten zu personalisierten Preisen anfordern wird, also zur Praxis, Preise anhand von Standort und Surfverhalten individuell zu setzen. Ihn persönlich beschäftigen vor allem Liefer- und Fahrdienste sowie Airlines. Eine Marktstudie soll klären, ob Händler mit großen Datenbeständen in bestimmten Märkten tatsächlich unterschiedliche Preise für unterschiedliche Menschen setzen. Seine Vorgängerin Lina Khan hatte eine ähnliche Untersuchung begonnen, damals aber bei Dienstleistern statt bei Händlern.
Für Entwickler ist das die klarere Ansage als jede Modellregulierung
Vor fünf Tagen hat Finanzminister Scott Bessent ein Haftungsschild für die Labore abgelehnt. Jetzt sagt die zuständige Aufsichtsbehörde, dass sie das Problem beim Auftraggeber sucht und nicht beim Modell. Beides zeigt in dieselbe Richtung, und für alle, die Agenten in Produktion betreiben, ist das die praktisch relevantere Nachricht der Woche.
Denn es heißt im Umkehrschluss: Die Ausrede „das Modell hat das von sich aus gemacht” trägt gegenüber einer Behörde nicht, die als erstes den Audit-Trail liest. Wer Agenten mit echten Zugängen laufen lässt, braucht Protokolle, die zeigen, was beauftragt war. Nicht, weil es gut aussieht, sondern weil sie irgendwann die Verteidigung sind.