Anthropic bettet unsichtbare Wasserzeichen in alle von Claude generierten Texte ein, um den EU AI Act zu erfüllen

Wasserzeichensystem angekündigt

Anthropic gab am 11. August bekannt, dass seine Claude-KI-Modelle unsichtbare Wasserzeichen in alle generierten Texte einbetten werden, um den Transparenzkodex des EU AI Act (Artikel 50 Absatz 2) einzuhalten, der am 2. August in Kraft trat. Modelle, die nach dem 2. August veröffentlicht wurden, enthalten bereits die Wasserzeichentechnologie, die ein Signal direkt in die Sequenz der vom Modell ausgegebenen Token einbettet. Das Wasserzeichen ist für Menschen nicht wahrnehmbar und verändert weder die Bedeutung, die Qualität noch die Lesbarkeit des Textes.

Da das Wasserzeichen Teil des Textes ist, wird es mit dem Text mitwandern, wenn er kopiert und an anderer Stelle eingefügt wird, und kann einige Bearbeitungen überdauern. Die Wasserzeichen werden auf Modellebene angewendet, was bedeutet, dass sie unabhängig davon vorhanden sind, von welchem Claude-Produkt oder welcher Oberfläche der Text stammt.

Globaler Geltungsbereich und Produktabdeckung

Die Maßnahme gilt global, nicht nur innerhalb der Europäischen Union. Wasserzeichen werden in Claude, der Claude-Plattform-API, Claude Code, Claude Cowork und Claude Tag sowie in Ausgaben von Claude-Modellen, die über Drittanbieterplattformen wie AWS, Google Cloud und Microsoft Foundry bezogen werden, vorhanden sein. Für generierte Dateien wird Anthropic digital signierte Provenienz-Metadaten unter Verwendung des C2PA-Offenstandards anhängen, dem gleichen Standard, der von Adobe, Microsoft und einem Großteil der Fotografiebranche verwendet wird. Ältere Modelle erhalten die Wasserzeichen schrittweise, wobei die EU eine Frist bis zum 2. Dezember für die Einhaltung gesetzt hat, die Anthropic einzuhalten plant.

Einschränkungen und Vorbehalte

Anthropic hat die Grenzen des Systems explizit dargelegt. Ein erkanntes Wasserzeichen deutet darauf hin, dass der Inhalt möglicherweise von Claude verarbeitet wurde, ist jedoch kein abschließender Beweis dafür, dass Claude ihn verfasst hat. Benutzer, die Claude zum Bearbeiten, Übersetzen, Zusammenfassen oder Konvertieren von menschengeschriebenem Text verwenden, können feststellen, dass die resultierende Ausgabe das Claude-Zeichen trägt, obwohl die zugrundeliegenden Ideen aus einer anderen Quelle stammen.

Ein erkanntes Zeichen liefert ein Signal, dass der Inhalt von Claude verarbeitet wurde, ist aber nicht vollständig schlüssig.

Umgekehrt beweist das Fehlen eines Wasserzeichens nicht, dass ein Text nicht von KI generiert oder verarbeitet wurde. Das Zeichen kann verschwinden, wenn Text stark bearbeitet, paraphrasiert, übersetzt, mit anderen Texten vermischt wird oder wenn die Passage zu kurz ist, um ein zuverlässiges Signal zu hinterlassen. Datei-Metadaten können durch Formatkonvertierung, Screenshots, erneutes Speichern oder Generierung auf einer Plattform, die die Kennzeichnung nicht unterstützt, verloren gehen.

Regulatorischer Kontext und Branchenlandschaft

Die Wasserzeichen reagieren auf Artikel 50 des EU AI Act, der vorschreibt, dass synthetische Inhalte automatisch erkennbar sein müssen und Deepfakes sowie bestimmte Texte zu Angelegenheiten von öffentlichem Interesse ordnungsgemäß gekennzeichnet werden müssen. Anthropic hat den EU-Verhaltenskodex für Transparenz von KI-generierten Inhalten unterzeichnet. Auch andere Unternehmen, darunter OpenAI, Google, Meta, Microsoft, Black Forest Labs und Synthesia, haben sich zum EU-Kodex verpflichtet. Googles SynthID-System, das eine ähnliche Funktion erfüllt, wurde von Apple, ElevenLabs, Kakao, Nvidia und OpenAI übernommen. Unabhängig davon kündigte die KI-Musikplattform Suno an, dass sie auf ihrer Plattform erstellte Tracks markieren wird, und der Newsletter-Dienst Substack arbeitete mit Pangram zusammen, um KI-generierte Inhalte zu kennzeichnen, wobei Substack-CEO Chris Best den Begriff „Claudefishing“ prägte, eine Bezeichnung für Personen, die KI zur Generierung von Inhalten nutzen.

Benutzerreaktionen und Ausblick

Die Ankündigung hat auf der Social-Media-Plattform X Kritik hervorgerufen, wo einige Benutzer ihren Widerstand äußerten und andere sagten, sie würden die Nutzung von Claude einstellen. Die Bedenken konzentrieren sich auf das Risiko, dass Text, der lediglich durch Claude bearbeitet oder verfeinert wurde, fälschlicherweise als KI-generiert gekennzeichnet werden könnte. Anthropic hat den technischen Mechanismus zum Einbetten des Wasserzeichens nicht offengelegt, vermutlich um die Entfernung zu erschweren. Das Unternehmen gab an, daran zu arbeiten, Benutzern und anderen Stellen den Nachweis der Zeichen und Metadaten-Provenienz zu ermöglichen, mit einem Zeitplan von einigen Wochen für die Veröffentlichung von Erkennungsdetails.