Carli Michelle Heller, 30, aus Bonita Springs in Florida, hat Claude nach eigener Aussage wie ein Tagebuch benutzt. Am 26. September schrieb sie laut dem Haftbericht, sie werde das Büro des Lee County Sheriff „shoot up”. Claudes Sicherheitssysteme markierten den Eintrag, ein menschlicher Prüfer las ihn, hielt die Drohung für glaubwürdig und meldete sie der Polizei. Deputies identifizierten Heller und nahmen sie ohne Widerstand in Gewahrsam; ein Ermittler der Aufklärungsabteilung übernahm den Fall. The Verge und TechSpot haben den Vorgang am 4. und 5. Oktober aufgegriffen, zuerst gemeldet hatte ihn der Lokalsender WBBH.
Die Kette, die hier gelaufen ist
Das Verfahren ist kein Automatismus und auch kein Zufall. Zuerst greift die Klassifizierung: Das Modell beziehungsweise die Sicherheitsschicht davor markiert eine Unterhaltung. Dann eskaliert der Fall an einen Menschen. Der liest den Text, entscheidet über die Glaubwürdigkeit – und erst dann geht etwas nach draußen.
Anthropic behält sich vor, Nutzerinformationen in engen Notfällen weiterzugeben, wenn die Offenlegung nach eigener Einschätzung nötig ist, um Tod oder schwere körperliche Verletzung zu verhindern. Das steht in den Richtlinien und ist keine Neuerung. Hier wurde es angewandt.
Das Gesetz passt erstaunlich gut
Angeklagt wird Heller nach Florida Statute 836.10: schriftliche Drohung mit Gewalt, ein Verbrechen zweiten Grades. Der Paragraf erfasst, wer eine schriftliche oder elektronische Aufzeichnung verschickt, veröffentlicht oder übermittelt, in der er androht, jemanden zu töten oder zu verletzen, eine Massenerschießung zu verüben oder einen Terrorakt zu begehen.
Eine Bedingung steht ausdrücklich im Gesetz: Die Mitteilung muss auf eine Weise erfolgt sein, auf die eine andere Person sie sehen kann. Bei einem privaten Chat mit einem Modell ist das eine ernste Frage – die aber genau dann beantwortet ist, wenn ein Prüfer bei Anthropic den Text liest. Dieselbe Prüfung, die die Meldung ausgelöst hat, erfüllt das Tatbestandsmerkmal.
Der Vergleichsfall liegt umgekehrt
Im September habe ich darüber geschrieben, dass British Columbia OpenAI und Sam Altman verklagt, weil das Unternehmen eine Massenerschießung in der Provinz hätte verhindern können. Die Täterin war von OpenAIs Sicherheitsteam wegen Gesprächen über Waffengewalt markiert worden, aber OpenAI hatte die Polizei nicht alarmiert: Die Unterhaltungen erreichten die Schwelle für eine Weitergabe nicht. Florida hat OpenAI und Altman im Juni ebenfalls verklagt, unter anderem wegen der Schießerei an der Florida State University 2025.
Die beiden Fälle zusammen zeigen, wo die Anbieter stehen. Meldest du nicht, wirst du verklagt. Meldest du, stehst du in den Nachrichten, weil du den Chat eines Nutzers der Polizei gegeben hast.
Ein Tagebuch ist das nicht
Die Nachricht ist nicht, dass Anthropic eine Drohung gemeldet hat – das ist, bei dieser Formulierung, nachvollziehbar. Die Nachricht ist, wie viele Menschen offenbar glauben, ein Chatfenster sei ein geschlossener Raum. Heller hat ihre Nutzung selbst als Tagebuch bezeichnet, und genau das ist der Irrtum: Jede Unterhaltung kann eine Klassifizierung auslösen, und jede markierte Unterhaltung kann ein Mensch lesen.
Wer das weiß, trifft andere Entscheidungen darüber, was er eintippt. Wer es nicht weiß, erfährt es im schlechtesten Fall so.