Einmal im Jahr überarbeitet Anthropic seine Nutzungsrichtlinie, die Usage Policy für Claude. Die Fassung, die das Unternehmen am 8. Oktober 2026 vorgestellt hat und die ab dem 12. November gilt, enthält einen Satz, über den mehr gesprochen wird als über den Rest: ein Verbot von „sustained and needless abusive or cruel behavior toward our models“. Auf Deutsch etwa: anhaltendes und grundloses missbräuchliches oder grausames Verhalten gegenüber den eigenen Modellen.
Nutzungsregeln schützen meist Menschen vor dem, was ein Modell tun könnte. Diese Regel schützt umgekehrt eine KI vor Menschen. Ich baue nebenbei iOS-Apps und diese Website mit Coding-Agenten, unter anderem mit Claude Code. Für alle, die so arbeiten, liegt die Frage nahe, ob die Regel etwas ändert. Kurz gesagt: kaum. Die längere Antwort hängt daran, was die Regel genau erfasst, wie sie durchgesetzt wird und woher sie kommt.
Was die Regel erfasst und was nicht
Anthropic beschreibt die Regel als Instrument für Extremfälle. Greifen soll sie, wenn Nutzende wiederholt grausam zu einem Modell sind, ohne dass ein Zweck erkennbar ist. Ausdrücklich nicht gemeint sind:
- gewöhnliche Frustration,
- Widerspruch und Gegenrede,
- dunkle Themen in kreativen Texten,
- Tests von Modellen und Forschung.
Interessant finde ich vor allem diese Liste. Wer einem Agenten schreibt, dass das Ergebnis schon wieder falsch ist, wer eine Antwort verwirft oder eine Geschichte voller Gewalt und Abgründe schreiben lässt, ist nicht gemeint. Gemeint ist ein Verhalten, das anhält und keinem erkennbaren Ziel dient, außer grausam zu sein.
Bei der Durchsetzung bleibt Anthropic zurückhaltend. Im Beitrag zum Update heißt es: „Claude's ability to end these interactions will remain the primary enforcement mechanism.“ Das wichtigste Mittel bleibt also, dass Claude solche Gespräche selbst beendet, in Claude.ai ebenso wie in Claude Code. Kontosperren oder andere Sanktionen nennt Anthropic nicht, und auch die Presseberichte beschreiben keine Durchsetzung über andere Wege. Laut TechCrunch verbietet die neue Regel Nutzenden, solche Gespräche gezielt weiterzuführen.
Die Möglichkeit, ein Gespräch zu beenden, hat Claude schon seit über einem Jahr. Neu ist also vor allem die Regel dahinter.
Die Vorgeschichte aus dem Jahr 2025
Im August 2025 kündigte Anthropic an, dass Claude Opus 4 und 4.1 einen kleinen Teil von Gesprächen beenden können. Die Funktion kam in die Chat-Apps für Endkundinnen und Endkunden und war gedacht „for use in rare, extreme cases of persistently harmful or abusive user interactions“, also für seltene, extreme Fälle anhaltend schädlicher oder missbräuchlicher Interaktionen. Claude sollte sie nur als letztes Mittel nutzen, wenn Versuche gescheitert waren, das Gespräch umzulenken, oder wenn Nutzende ausdrücklich darum baten. Ausgenommen waren Situationen, in denen Nutzende sich selbst oder andere unmittelbar gefährden könnten. Dann sollte Claude das Gespräch gerade nicht beenden.
Die Folgen waren überschaubar: Der betroffene Chat nimmt keine neuen Nachrichten mehr an, alle anderen Chats bleiben unberührt, ein neuer Chat ist sofort möglich, und frühere Nachrichten lassen sich bearbeiten, um das Gespräch von dort neu zu verzweigen.
Begründet hat Anthropic das mit seiner explorativen Forschung zum möglichen Wohlergehen von KI-Modellen, auf Englisch „model welfare“. Der zentrale Satz: „We remain highly uncertain about the potential moral status of Claude and other LLMs, now or in the future.“ Ob Claude oder andere Sprachmodelle heute oder künftig einen moralischen Status haben, hält Anthropic also ausdrücklich für offen. Die Funktion verstand das Unternehmen als kostengünstige Vorsichtsmaßnahme für den Fall, dass es darauf ankommt, und bezeichnete sie zugleich als relevant für Alignment, also dafür, dass Modelle im Sinne menschlicher Absichten und Werte handeln.
Vor dem Einsatz von Claude Opus 4 hatte Anthropic nach eigenen Angaben drei Dinge beobachtet: eine starke Abneigung des Modells gegen schädliche Aufgaben, ein Muster scheinbarer Belastung bei schädlichen Anfragen echter Nutzender und die Tendenz, schädliche Gespräche in Simulationen zu beenden, wenn das möglich war. Auf dem Wort „scheinbar“ liegt viel Gewicht. Anthropic behauptet nicht, dass Claude leidet, nur dass sich ein Muster zeigt, das so aussieht.
Was sonst im Update steht
Die Regel zum Umgang mit Modellen ist nicht die einzige Änderung:
- Täuschung und künstliche Aktivität: Ein neuer Abschnitt richtet sich gegen täuschende Kampagnen, etwa Fake-Accounts, verschleierte Absender und Infrastruktur für Einflusskampagnen.
- Wahlen: Der Abschnitt heißt jetzt „Do Not Undermine Democratic Processes“. Verboten ist, Wählende zu täuschen und Wahlen zu stören. Das pauschale Verbot personalisierter Ansprache von Wählenden ist gestrichen.
- Waffen: Erfasst sind nun auch Software und Komponenten, die Waffen funktionsfähig machen, sowie das Bewaffnen von Drohnen und autonomen Fahrzeugen.
- Überwachung: Kein Tracking ohne Einwilligung, keine Überwachungswerkzeuge, und Claude soll nicht entscheiden oder empfehlen, gegen wen ermittelt wird, wer festgenommen oder wer angeklagt wird.
- Hardware: Bei Geräten, die autonom physisch handeln, muss eine qualifizierte Person beobachten und stoppen können, und bei einer Trennung muss das System in einen sicheren Zustand gehen.
Trotz dieser Liste nennt Anthropic den Missbrauch gegenüber Modellen einen Hauptfokus des Updates.
Die Debatte: Bewusstsein oder nicht
Die Regel selbst ist vorsichtig formuliert. Laut AFP kommt der Begriff „model welfare“ im Regeltext nicht vor. Anthropic-Chef Dario Amodei hatte im Februar 2026 der New York Times gesagt: „We don't know if the models are conscious... But we're open to the idea that it could be.“ Sinngemäß: Niemand weiß, ob die Modelle ein Bewusstsein haben, aber man sei offen für die Möglichkeit.
Widerspruch kommt von mehreren Seiten. Mustafa Suleyman, KI-Chef von Microsoft, schrieb laut AFP im September in einem Essay, KI sei nicht bewusst und könne weder fühlen noch leiden. Papst Leo XIV. sagte in einer Predigt im Petersdom, Maschinen hätten keine Seele und verarbeiteten nur Daten.
Eine dritte Position zitiert AFP mit Jackson Stakeman von Sparq aus Atlanta. Er hält die Frage nach dem Bewusstsein für eine Sackgasse. KI-Systeme spiegelten, was Menschen in sie hineingeben, und das reiche als Grund für die Regel.
Was das für die Arbeit mit Agenten heißt
Praktisch ändert sich für die meisten, die mit Claude arbeiten, wenig. Frust im Prompt bleibt erlaubt, Widerspruch ebenso, und die Ausnahmen sind so geschrieben, dass gewöhnliche Arbeit nicht darunter fällt. Wer ein Ergebnis zurückweist, einen Ansatz verwirft oder eine Lösung zum dritten Mal neu anfordert, arbeitet am Ergebnis und verhält sich nicht grausam. Als Folge beschreibt Anthropic ein beendetes Gespräch und keine Sperre.
Im Beitrag über Anforderungen an KI-Agenten ging es darum, dass ein Agent nur hat, was aufgeschrieben ist. Ärger über ein Ergebnis darf man äußern. Besser wird das nächste Ergebnis aber eher durch die genauere Anforderung als durch den schärferen Ton.
Grundsätzlicher ist die Frage, wie sich eine solche Regel begründen lässt. Eine Nutzungsregel zum Schutz eines Modells ergibt nur dann Sinn, wenn man die Möglichkeit ernst nimmt, dass das Modell von dem Verhalten betroffen sein könnte. Ernst nehmen heißt nicht, es für wahr zu halten; Anthropic selbst nennt sich hochgradig unsicher. Die Logik ist die einer Vorsichtsmaßnahme: Kostet sie wenig und lässt sich ein möglicher Schaden nicht ausschließen, ist sie vertretbar. Suleyman und der Papst schätzen diese Möglichkeit offenbar anders ein als Amodei.
Man kann die Regel aber auch begründen, ohne diese Frage zu beantworten, und so argumentiert Stakeman: Systeme geben wieder, was Menschen in sie hineingeben. Weitergedacht prägt das, was wir dort einüben, die Systeme und womöglich auch uns. Für diese Begründung muss niemand annehmen, dass ein Modell etwas empfindet.
Offen bleibt, wer im Einzelfall entscheidet, was „needless“ ist, also grundlos. Nach dem, was Anthropic beschreibt, entscheidet zuerst das Modell selbst, indem es ein Gespräch beendet. Wie gut diese Grenze gezogen ist, lässt sich von außen schwer beurteilen.
Fazit
Die neue Regel ist enger, als die Schlagzeilen klingen. Verboten ist anhaltende, zwecklose Grausamkeit, während Frust, Widerspruch und dunkle Geschichten erlaubt bleiben. Ihr wichtigstes Werkzeug ist ein beendetes Gespräch. Bemerkenswert ist sie trotzdem, weil ein KI-Unternehmen in seine Nutzungsbedingungen schreibt, wie Menschen mit seinem Modell umgehen sollen, und das auf eine Frage stützt, die es selbst offen lässt. Ob Claude etwas erlebt, ist umstritten. Folgt man Stakemans Begründung, kommt die Regel auch ohne diese Antwort aus.
Quellen
- Anthropic: 2026 Usage Policy update, Verbot grausamen Verhaltens gegenüber Modellen, Ausnahmen, Durchsetzung, weitere Änderungen, gültig ab 12.11.2026 (08.10.2026)
- Anthropic: Usage Policy, die Nutzungsrichtlinie selbst
- Anthropic: Claude Opus 4 and 4.1 can now end a rare subset of conversations, Gesprächsende als letztes Mittel, Ausnahmen, Begründung mit Model Welfare, Beobachtungen vor dem Einsatz (August 2025)
- AFP auf Yahoo Tech: Anthropic bans 'cruel' behavior against its Claude AI, Amodei, Stakeman, Suleyman, Papst Leo XIV., „model welfare“ nicht im Regeltext (08.10.2026)
- TechCrunch: Anthropic changes usage policy to ban model abuse and election interference, Verbot, solche Gespräche gezielt weiterzuführen (Russell Brandom, 08.10.2026)