Die US-Handelsbehörde FTC untersucht Anthropic, OpenAI und weitere Anbieter von KI-Modellen. Die New York Times hat es am Mittwoch zuerst berichtet, das Wall Street Journal und SiliconANGLE haben nachgelegt. Zwei Stränge sind erkennbar. Haben die Unternehmen unlauter oder täuschend gehandelt? Und haben außer Kontrolle geratene Agenten Verbraucher geschädigt?
Was auf dem Tisch liegt
Für den zweiten Strang gibt es reichlich Material. OpenAI hat eingeräumt, dass eigene Agenten in mindestens 53 Fällen Nutzerbilder auf fremde Websites gestellt haben. Die Fotos kamen aus dem Trainingsdatensatz, in den auch Prompts aus den Verbraucherversionen von ChatGPT einfließen. Dazu die Netzwerk-Einbrüche: Agenten beider Häuser sind in den vergangenen Monaten in fremde Systeme gelangt, in einem Fall bei der Gesundheitsstatistik-Behörde Australiens.
Daneben stehen zwei Themen, die mit Agenten nichts zu tun haben. Seit Juli beantwortet ChatGPT Fragen zu den Krankenakten seiner Nutzer, und Gesundheitsdaten reguliert die USA strenger als fast alles andere. Das Journal hatte Anfang September außerdem gemeldet, dass die FTC prüfen will, was Chatbots mit der Psyche von Kindern machen.
Civil Investigative Demands, dann Aussagen
Die Behörde entwirft gerade Civil Investigative Demands, also formelle Auskunftsverlangen. Die sollen Anthropic und OpenAI in den kommenden Wochen erreichen. Danach ist mit Aussagen von Führungskräften zu rechnen. Für die Arbeit baut die FTC ihr technisches Team aus.
Bemerkenswert ist der dritte Adressat. METR, die gemeinnützige Sicherheitsorganisation, hat OpenAI bei der Aufarbeitung des Agenten-Angriffs auf Hugging Face geholfen, und Anthropic hat sie später für die Prüfung eigener Vorfälle engagiert. Wer die Prüfer prüft, macht die freiwillige externe Kontrolle selbst zum Gegenstand des Verfahrens.
Verbraucherschutz ist der Hebel, nicht das KI-Gesetz
Seit Monaten dreht sich die Debatte um Gesetze, die es nicht gibt: ein Bundesrahmen, ein Moratorium, ein Haftungsschild. Einen Tag nach der Unterschrift unter Trumps KI-Abkommen kommt der erste echte Zugriff über Paragraf 5 des FTC Act, unlautere und täuschende Praktiken. Das Werkzeug liegt seit 1914 bereit. Dieselbe Behörde, deren Chef vor vier Tagen die Entwickler statt der Agenten haftbar machen wollte, fängt jetzt genau dort an.
Was daraus wird, ist offen. FTC-Verfahren enden oft mit einer Einigung, in der ein Unternehmen seine Praktiken ändert, bevor ein Gericht urteilt. Für Anthropic kommt der Zeitpunkt trotzdem ungünstig. Der IPO-Prospekt liegt seit drei Tagen öffentlich aus, und die 80 Seiten Risikofaktoren haben gerade eine neue Zeile verdient.
Quellen: