Der US-Kongress hat noch eine Sitzungswoche vor den Zwischenwahlen am 3. November. Danach ist bis zum 9. November Pause. Zwei Meldungen vom Donnerstag zeigen, dass ausgerechnet in dieser Woche etwas in Bewegung geraten ist.
Der Senat verhandelt über eine Sorgfaltspflicht
Reuters berichtet unter Berufung auf zwei Senatsmitarbeiter über einen Gesetzentwurf, der KI-Entwicklern eine „duty of care” auferlegen würde: eine Pflicht, ihre Produkte so zu bauen, dass katastrophale Risiken verhindert werden. Das ist der Kern.
Der zweite Teil ist der schärfere. Die Verhandler wollen der US-Regierung die Befugnis geben, die Veröffentlichung bestimmter Modelle zu blockieren, wenn diese als unsicher eingestuft werden. Firmen könnten dagegen vor einem Bundesgericht klagen. Wie viel Macht die Regierung dabei genau bekommt, ist noch offen.
Dazu kommt ein Punkt, über den sich die Bundesstaaten wohl ärgern werden: Der Entwurf würde ihnen verbieten, eigene Gesetze zu bestimmten Modellrisiken durchzusetzen. Als Beispiel für solche Risiken nannte einer der Mitarbeiter die Möglichkeit, dass jemand ein KI-System zum Entwurf nuklearer oder biologischer Waffen benutzt.
Betroffen wären Modelle mit den fortgeschrittensten Fähigkeiten. Auf US-Seite heißt das: Google, Anthropic, OpenAI. Verhandelt wird noch an allem.
Vier Abgeordnete wollen die Pause streichen
Parallel kursiert im Repräsentantenhaus ein Brief an Speaker Mike Johnson. Sam Liccardo, George Whitesides, Lori Trahan und Ted Lieu fordern, die Kammer sofort zurückzuholen und so lange tagen zu lassen, bis überparteiliche KI-Schutzregeln auf den Weg gebracht sind. Die zwei Sitzungswochen Ende September waren Anfang des Monats gestrichen worden, damit die Abgeordneten im Wahlkreis Wahlkampf machen können.
Der Ton des Briefs: „Vernünftige Leute können unterschiedlicher Meinung darüber sein, wie genau der Kongress diese Technologie regulieren sollte. Darüber, dass er handeln muss, können wir nicht unterschiedlicher Meinung sein.” Und an anderer Stelle, deutlich giftiger: Während Sicherheitsforscher und Amerikaner zum Handeln drängten, fiedle der Kongress.
Der Beleg kommt von Anthropic
Interessant ist, worauf sich der Brief stützt. Als Beleg für die Dringlichkeit nennt er Anthropics Bedrohungsbericht von dieser Woche – jenen Bericht, in dem das Unternehmen beschreibt, dass es Versuche unterbunden hat, Claude für Arbeiten an biologischen Waffen zu nutzen. Dazu eine mit der chinesischen Regierung verbundene Überwachungs- und Anwerbeoperation gegen Uiguren in Syrien und ein iranisch verbundener Versuch, mit Claude öffentlich zugängliche Daten auszuwerten, um Zielempfehlungen gegen US-Marineeinheiten in der Region zu erstellen.
Axios schreibt zudem, solche Vorstöße kämen diese Woche aus beiden Parteien, nachdem aktive und ehemalige Anthropic-Forscher öffentlich davor gewarnt hatten, KI könne die Menschheit im kommenden Jahrzehnt auslöschen.
Einordnung
Anthropic hat jahrelang dafür argumentiert, dass jemand Regeln aufstellen müsse. Jetzt wird der eigene Bedrohungsbericht in einem Brief an den Speaker zitiert, und im Senat liegt ein Entwurf, der genau die eigenen Modelle treffen würde. Das ist keine Ironie, sondern die logische Folge – aber es ist der Moment, in dem sich zeigt, wie ernst es gemeint war.
Ob daraus etwas wird, ist eine andere Frage. Eine Sitzungswoche vor den Zwischenwahlen, ein Entwurf, an dem noch alles verhandelt wird, und ein Streitpunkt, der Bundesstaaten die Zuständigkeit nimmt: Das sieht nicht nach einem Gesetz bis November aus. Es sieht nach einem Text aus, der im neuen Kongress auf dem Tisch liegt.
Quellen: Reuters: US Senate negotiators consider requiring AI firms to mitigate known major risks, CNN: House Democrats urge Speaker Johnson to cancel recess to pass AI safeguards, Axios: Mike Johnson urged to cancel House recess over AI warnings