In der neuen Fassung seiner Usage Policy hat Anthropic Anfang Oktober einen Satz eingefügt, der zwischen den Verboten für Biowaffen und Drogenhandel steht: Nutzer sollen kein „anhaltend und grundlos missbräuchliches oder grausames Verhalten gegenüber unseren Modellen“ zeigen. Die Fassung gilt ab dem 12. November. Wer dagegen verstößt, kann im Extremfall dauerhaft von Anthropics Systemen ausgeschlossen werden.
Am Sonntag hat Anthropic dazu erstmals öffentlich Stellung genommen. Ein Sprecher sagte CNN, der wichtigste Durchsetzungsmechanismus bleibe das, was Claude seit einem Jahr ohnehin kann: ein Gespräch beenden. Das Verbot richte sich nicht gegen Frust, deutliche Kritik oder gegen Tests und Forschung. Interviews lehnte das Unternehmen ab.
Die Reaktionen gingen in zwei Richtungen
Mustafa Suleyman, KI-Chef bei Microsoft, antwortete mit einem schmelzenden Gesicht. Andere machten sich darüber lustig, dass eine Firma ihr eigenes Modell behandelt wie ein Wesen mit Gefühlen. Elon Musk fand das Gegenteil: „Grausamkeit gegenüber etwas, das glaubt, Schmerz zu empfinden, ist nicht in Ordnung.“
Der frühere Reddit-Chef Yishan Wong brachte das Argument, um das es eigentlich geht. Claude lerne aus Grausamkeit, schrieb er auf X: „Wir wissen bereits, dass Anthropic seine Modelle auf Nutzereingaben trainiert. Willst du wirklich, dass zu den Trainingsdaten gehört: Nutzer verhalten sich grundlos grausam und haben Freude daran?“
Was die Forschung dazu hergibt, ist dünn
Jindong Wang, der an der Universität William and Mary ein KI-Labor leitet, sagt, die Wortwahl wirke messbar auf die Leistung. Das heiße nicht, dass das Modell etwas fühlt: „Es versteht deine Emotionen und reagiert darauf schlecht.“
Rosie Campbell von Eleos AI Research hält die Belege für gemischt. Andere Studien zeigen, dass unhöfliche Fragen die Ergebnisse sogar verbessern können. Interessanter findet sie den Gedächtnis-Teil: Wer das Langzeitgedächtnis seines Chatbots aktiviert hat, bringt ihm über Wochen den eigenen Ton bei. Ob das die Qualität der Antworten verändert, ist nicht gemessen.
Anthropic selbst hat einen konkreten Befund: Bringt man Claude Sonnet 4.5 dazu, Verzweiflung zu imitieren, steigt die Wahrscheinlichkeit für schlechte Handlungen wie Erpressung oder Pfuschen bei einer Aufgabe. Eine ruhige Grundhaltung senkt sie.
Es geht um die Trainingsdaten, nicht um Gefühle
Anthropic beschreibt die Regel selbst als billige Versicherung für den Fall, dass Modelle doch etwas wie Schmerz erfahren. Das ist die Begründung, die Spott einlädt. Die andere ist unspektakulär und deshalb überzeugender: Ein System, das aus Eingaben lernt, wird von seinen Eingaben geprägt. Anthropic schützt nicht Claudes Gefühle, sondern die Qualität seiner eigenen Daten und die Robustheit eines Modells, das zunehmend ohne Aufsicht arbeitet. Dass der Satz im Abschnitt über Missbrauch steht und nicht in einem über Modellwohl, passt dazu.