Anthropic hat am 14. Oktober aufgeschrieben, womit das Unternehmen in die US-Midterms geht. Zwei Dinge sind neu im Produkt, der Rest ist Messung – und die ist der interessantere Teil.
Was in 250.000 Gesprächen steht
Über Anthropic Insights wurde eine Woche im September ausgewertet. Gespräche, die Politik, öffentliche Debatten oder soziale Fragen berühren, machen rund 5,75 Prozent aller US-Gespräche auf Claude.ai aus. Um Wahlen oder das Wählen selbst geht es in 0,51 Prozent. Dass jemand Claude fragt, wen oder was er wählen soll, kommt in etwa 0,01 Prozent vor. Gespräche, die gegen die Wahlintegritätsregeln verstoßen, liegen bei 0,002 Prozent.
Democracy Works liefert die amtlichen Angaben
Bisher erschien bei Fragen zu Registrierung, Wahllokal oder Wahlterminen ein Banner mit Link zu TurboVote. Später im Monat zieht Claude die Daten von Democracy Works direkt in die Antwort: Wer fragt, wo er wählen kann oder welchen Ausweis er mitbringen muss, bekommt die Antwort für seinen Bundesstaat, ohne das Gespräch zu verlassen. Am Wahlabend und in den Tagen danach zeigt Claude außerdem die aktuellen amtlichen Zwischenergebnisse.
Drei fremde Gruppen haben die Ausgewogenheit geprüft
Opus 5.5, Sonnet 5.5 und Haiku 5.5 kommen in Anthropics eigener Prüfung auf 99 Prozent politische Ausgewogenheit. Dazu haben drei unabhängige Gruppen geprüft: The Future of Free Speech an der Vanderbilt University, die Foundation for American Innovation mit gespiegelten Prompts von links und rechts, und das Collective Intelligence Project mit über 2.000 Befragten in den USA, Großbritannien und Indien. Zwei Befunde sind unbequem: Claude lehnt selten ab, hängt aber ungefragt Gegenargumente an, etwa einen Einwand in eine Werbe-E-Mail. Und Sonnet 4.5 hat Argumente von rechts häufiger abgeschwächt als die von links.
Die Kampagne, die aus harmlosen Teilen besteht
Der schärfste Befund kommt vom Red-Teaming mit dem Institute for Strategic Dialogue und dem McCain Institute, geprüft in den USA, Israel und Brasilien. Eine einzelne schädliche Anfrage hat Claude verlässlich abgelehnt. Dann haben die Analysten dieselbe Kampagne zerlegt: Zielgruppen recherchieren, eine Nachrichtenseite bauen, Texte schreiben, die Verteilung planen. Jeder Schritt sah für sich harmlos aus, und genau so konnte die Kampagne durchkommen. Dagegen laufen jetzt neue Klassifikatoren, die mehrstufigen Missbrauch erkennen sollen, dazu bessere Erkennung ausländischer Staatsakteure.
Das Umfeld passt zum Thema: Nach einer Analyse, die Axios exklusiv vorlag, haben Gruppen und Einzelspender aus dem KI-Sicherheitslager in diesem Wahlzyklus knapp 50 Millionen Dollar für regulierungsfreundliche Kandidaten ausgegeben. Genannt wird dabei auch Coefficient Giving, eine Stiftung mit engen Verbindungen zu Anthropic-Führungskräften.
Einzelanfragen sind nicht das Problem
An den Zahlen fällt auf, wie klein der Missbrauch im Alltag ist: 0,002 Prozent. Die eigentliche Lücke sitzt woanders, in der aufgeteilten Kampagne, und die sieht in jedem einzelnen Gespräch legitim aus. Ein Klassifikator, der das erkennen soll, muss über Gespräche hinweg denken, und genau das ist der Punkt, an dem Produktschutz und Datenschutz aneinandergeraten. Dass Anthropic den Befund veröffentlicht, statt ihn wegzulassen, ist der nützlichste Teil des Papiers.