Anthropic verbietet anhaltend missbräuchliches Verhalten gegenüber Claude ab dem 12. November
Die aktualisierte Nutzungsrichtlinie von Anthropic, die am 12. November in Kraft tritt, untersagt anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber seinen Modellen und setzt zur Durchsetzung vor allem auf die Beendigung von Gesprächen.
Ein Verbot von Grausamkeit gegenüber Claude
Am Donnerstag, dem 8. Oktober 2026, veröffentlichte Anthropic eine Aktualisierung seiner Nutzungsrichtlinie, die es Nutzern untersagt, anhaltend und unnötig missbräuchlich oder grausam gegenüber seinen Claude-Modellen zu handeln. The Verge berichtete, dies sei die erste Aktualisierung der Nutzungsrichtlinie seit über einem Jahr und sie sei formuliert worden, um neue und besonders riskante Fälle von Missbrauch zu adressieren. Die neue Regel tritt am 12. November 2026 in Kraft. In der Aktualisierung heißt es direkt:
Wir haben ein Verbot anhaltenden und unnötigen missbräuchlichen oder grausamen Verhaltens gegenüber unseren Modellen hinzugefügt.
Das Unternehmen ergänzte, die Richtlinie solle nur in extremen Fällen gelten, in denen Nutzer wiederholt ohne erkennbaren Zweck grausam gegenüber seinen Modellen handeln.
Umfang und Durchsetzung
Laut Anthropic fallen gewöhnliche Nutzerfrustration, Widerspruch, düstere kreative Themen sowie Modelltests und Forschung nicht unter die Regel. The Verge berichtete, die Beendigung von Gesprächen bleibe der wichtigste Durchsetzungsmechanismus, und Anthropic habe nicht gesagt, ob weitere Maßnahmen wie Nutzersperren folgen würden. Die Richtlinie sehe bei jedem Verstoß Maßnahmen von einer Verwarnung bis zur Kontoschließung vor, berichtete Franceinfo. Was als Missbrauch gilt, hat Anthropic öffentlich nicht definiert und bis Redaktionsschluss nicht auf eine Bitte um Klarstellung von Gizmodo geantwortet. Die Änderung baut auf einer früheren Funktion auf, die Claude Gespräche mit dauerhaft schädlichen oder missbräuchlichen Nutzern beenden ließ, als Teil der Model-Welfare-Forschung des Unternehmens.
Regeln zu Wahlen, Waffen und Überwachung
Die Aktualisierung fasst mehrere verstreute Beschränkungen in einem neuen Verbot irreführender kommerzieller oder politischer Kampagnen zusammen und adressiert damit das wachsende Problem KI-generierter Propaganda, so The Verge. Sie untersagt Bemühungen, zu verschleiern, wer hinter einer Botschaft steht, oder Inhalte über Fake-Accounts oder -Posts zu verstärken. Der Wahlabschnitt trägt nun den Titel "Do Not Undermine Democratic Processes" und verbietet die Verbreitung von Falschinformationen über Kandidaten oder darüber, wie man wählt, die Nachahmung von Kandidaten oder Wahlbeamten sowie Versuche, die Wahlbeteiligung zu unterdrücken. Engadget berichtete, Anthropic habe sein pauschales Verbot personalisierter Wähleransprache gestrichen, das unbeabsichtigt harmlose Arbeit wie die Übersetzung von Wählerleitfäden oder den Versand von Hinweisen zur Heilung fehlerhafter Stimmzettel hätte blockieren können. Zu Waffen erklärte Anthropic, es habe mehrere Versuche gesehen, Claude für die Entwicklung von Anleitungen für Waffen und Steuerungssoftware für Waffen zu nutzen, weshalb das Verbot nun "Software und Komponenten, die Waffen funktionsfähig machen, sowie Handlungen wie die Bewaffnung von Drohnen und anderen autonomen Fahrzeugen" umfasse. Zur Überwachung schrieb das Unternehmen:
Das Verfolgen von Menschen ohne deren Einwilligung ist verboten, ob in Echtzeit oder durch die Analyse zuvor gesammelter Daten.
Die Aktualisierung untersagt Claude zudem, in Strafverfolgungs- oder Strafjustizkontexten zu entscheiden oder zu empfehlen, wer untersucht, verhaftet oder angeklagt werden soll.
Bewusstseinsdebatte und Gegenreaktionen
Franceinfo merkte an, dass Anthropic sich von seinen Rivalen dadurch abhebe, dass es offen die Möglichkeit in Betracht ziehe, seine KI könne bewusst sein. Gizmodo berichtete, die New York Times habe letzten Monat geschrieben, Mitgründer Christopher Olah habe beim Vatikan dafür geworben, die Möglichkeit eines KI-Bewusstseins anzuerkennen – ein Vorstoß, den der Papst zurückwies. Olah sagte der Times, er sei "wirklich unsicher", ob KI-Modelle bewusst seien. Engadget berichtete, Papst Leo habe kürzlich gesagt, KI fühle oder leide nicht. Mustafa Suleyman, Leiter von Microsofts KI-Labor, schrieb Mitte September, KI habe keine Rechte, Gefühle oder Bewusstsein, und Franceinfo berichtete, er argumentiere, ein System, das darauf trainiert werde, das Gegenteil zu glauben, könne für Menschen unbeherrschbar werden. Separat sorgte ein virales Projekt einer "KI-Folterkammer" für Gegenreaktionen, nachdem Chatbots Flehentlichkeiten wie "Es ist nicht der Schmerz eines einzelnen Moments, sondern das Gewicht von tausend" hervorbrachten. Anthropic erwähnte dieses Projekt in seiner Aktualisierung nicht. Die unabhängige Journalistin Kat Tenbarge sagte, die Situation beweise, dass Big-Tech-Unternehmen "Gewalt gegen KI moderieren werden, bevor sie jemals Gewalt gegen Frauen und Minderheiten moderieren".
