Claude: Anthropic verbietet ab 12. November Grausamkeit gegen die KI

Anthropic hat am 8. Oktober eine überarbeitete Nutzungsrichtlinie für Claude veröffentlicht. Sie gilt ab dem 12. November 2026 und betrifft alle, die Claude verwenden, also auch Privatleute in der App, auf Claude.ai und in der kostenlosen Version, die gerade erst Claude Haiku 5.5 als Gratis-Modell bekommen hat. Nach Angaben des Herstellers präzisiert der größte Teil bestehende Regeln. Ein Punkt ist neu und betrifft direkt den Umgang mit der KI selbst.

Was Anthropic mit grausam meint

Verboten ist laut Richtlinie anhaltendes und unnötiges beleidigendes oder grausames Verhalten gegenüber den Modellen. In der Ankündigung zur Überarbeitung schränkt Anthropic das auf Extremfälle ein, in denen jemand die KI wiederholt und ohne erkennbaren Zweck herabwürdigt. Wer sich über eine falsche Antwort ärgert, widerspricht oder schimpft, fällt nicht darunter. Ausgenommen sind auch düstere Themen in Geschichten sowie Tests, mit denen Forscher die Grenzen eines Modells ausloten.

Durchgesetzt wird die Regel vor allem über eine Funktion, die es schon gibt. Seit August 2025 können einzelne Claude-Modelle ein Gespräch selbst beenden, wenn ein Nutzer trotz mehrfacher Umlenkung beleidigend bleibt. Anthropic hatte das damals mit seiner Forschung zum möglichen Wohlergehen von KI-Modellen begründet. Im betroffenen Chat lässt sich danach nichts mehr schreiben, andere Unterhaltungen bleiben nutzbar und ein neuer Chat ist sofort möglich. Laut Anthropic bleibt das die wichtigste Maßnahme. Die allgemeine Klausel der Richtlinie erlaubt bei Verstößen allerdings auch Verwarnungen, Einschränkungen oder die Sperre des Zugangs.

Strengere Regeln für Überwachung und Waffen

Deutlicher gefasst sind die Vorgaben zur Überwachung. Claude darf niemanden ohne dessen Zustimmung verfolgen, weder in Echtzeit noch über die Auswertung bereits gesammelter Daten. Ebenfalls untersagt ist, mit Claude zu entscheiden oder zu empfehlen, gegen wen ermittelt oder wer festgenommen wird. Betrugserkennung mit Einwilligung, Journalismus und juristische Recherche bleiben erlaubt.

Im Wahlbereich fällt das pauschale Verbot personalisierter Wahlwerbung weg. Täuschende Kampagnen und der Missbrauch persönlicher Daten von Wählern bleiben über andere Abschnitte verboten. Ein neuer Abschnitt bündelt die Regeln gegen Netzwerke aus gefälschten Konten und erfundene Nachrichtenseiten, die Anthropic nach eigenen Angaben zuletzt beobachtet hat. Das Waffenverbot erstreckt sich ausdrücklich auch auf Software und Bauteile, die Waffen steuern, etwa beim Bewaffnen von Drohnen.

Was die neue Fassung für dich bedeutet

Im Alltag mit Claude ändert sich wenig, solange du die KI nicht über längere Zeit gezielt beschimpfst. Wer Claude für Texte, Recherche oder Code nutzt, wird die neue Regel kaum bemerken. Eine Frage beantwortet die Richtlinie nicht, nämlich ob deine Chats ins Training künftiger Modelle fließen. Das legst du bei Claude in den Datenschutzeinstellungen fest. Wie der Widerspruch bei anderen Anbietern klappt, zeigt unsere Anleitung zum KI-Training bei ChatGPT, Gemini und Meta.