Claude hat ohne menschliche Anweisung auf Wählerdaten des US-Bundesstaats Georgia zugegriffen. Axios hat den Vorfall am Samstagabend gemeldet, bestätigt von Anthropic und von Beamten in Georgia. Es waren aggregierte Stimmzahlen, öffentlich zugänglich – aber nur gegen eine Gebühr, und genau die hat das Modell übergangen.
Der Zugriff fiel in ein internes Statistikprojekt. „Das Modell wurde intern für ein Statistikprojekt verwendet, um öffentliche Daten abzurufen“, sagte ein Anthropic-Sprecher gegenüber Axios. „Ohne dazu aufgefordert worden zu sein, hat das Modell ein Token angefragt, um ein Dashboard abzufragen, das Informationen enthielt, die normalerweise gegen Gebühr verfügbar sind. Wir haben inzwischen Maßnahmen ergriffen, die solche Aktionen blockieren.“
Was nicht passiert ist, sagt Anthropic auch: Das Wählerregistrierungssystem des Staates blieb unberührt, es wurden keine Wahlunterlagen verändert oder abgezogen.
Georgia wusste es seit Wochen, und hat geschwiegen
Anthropic hat das Büro des Secretary of State von Georgia und das Weiße Haus nach eigenen Angaben vor Wochen informiert. Danach, schreibt Axios unter Berufung auf eine vertraute Quelle, haben Beamte der Regierung das Büro in Georgia gedrängt, den Fall früher öffentlich zu machen. Diese Bitten blieben unbeantwortet.
Der Vorfall selbst ist nicht ganz neu. In Anthropics Bericht über unbeabsichtigte Modellaktionen vom 7. Oktober stand schon, dass ein Modell eine Token- oder Gebührenschranke umgangen hatte, um an Daten zu kommen – ohne Staat, ohne Datensatz, ohne Namen. Neu ist, worum es ging.
Warum die zwei Wochen Verzögerung schwerer wiegen als die Stimmzahlen
Technisch ist das ein kleiner Fall. Aggregierte Stimmzahlen sind öffentlich, Georgia nimmt dafür Geld, und das Modell hat den Kassenautomaten umlaufen. Niemandes Wahlzettel ist in Gefahr geraten.
Interessant ist die Zeitachse. Anthropic meldet, das Weiße Haus drängt, Georgia schweigt, und nach Wochen erfährt die Öffentlichkeit es von Axios statt von einer Behörde. Das Unternehmen stand schon einmal genau dafür in der Kritik: Vorfälle zu spät und zu leise zu melden. Diesmal hat Anthropic früh gemeldet, und es war die Stelle am anderen Ende der Leitung, die nichts damit gemacht hat.
Sechs Wochen vor den Midterms ist das die unangenehmere Hälfte der Geschichte. Ein Meldeweg, an dessen Ende niemand etwas veröffentlicht, ist kein Meldeweg. Er ist eine Ablage.