Warum Claudes unsichtbare Wasserzeichen weder unsichtbar noch harmlos sein könnten

Anthropics Text-Watermarking für Claude soll KI-generierte Inhalte erkennbar machen. Doch Kritiker bezweifeln, dass die Wortwahl unbeeinflusst bleibt, und Juristen stehen vor neuen Transparenzproblemen.

Anthropic beteuert, dass das Text-Watermarking für Claude keinen Einfluss auf "Inhalt, Kreativität oder Lesbarkeit" habe. Die Methode basiert auf Googles SynthID-Text-Verfahren und verändert bei der Textgenerierung die Zufallsquelle für die Wortwahl, sodass ein statistisch nachweisbares Muster entsteht. Kein sichtbares Zeichen wird eingefügt, keine versteckten Zeichen gesetzt.

Blogger John Gruber argumentiert dagegen in einem ausführlichen Beitrag auf Daring Fireball, dass keine zwei Synonyme exakt dieselbe Bedeutung tragen. Wenn Claude zwischen "overcast" und "grey" nicht nach semantischer Präzision, sondern nach einem geheimen Wasserzeichen-Schlüssel entscheidet, werde die Textqualität zwangsläufig beeinträchtigt. Das System erhöhe manchmal die Wahrscheinlichkeit für ein schlechteres Wort und senke sie für das beste, so Gruber. Anthropics Behauptung, der Unterschied sei "nicht wahrnehmbar", sei schlicht falsch.

Gruber betreibt seit 2002 den einflussreichen Tech-Blog Daring Fireball und gilt als eine der bekanntesten unabhängigen Stimmen der Apple- und Tech-Szene. Er ist außerdem Miterfinder des heute auch von Chatbots viel genutzten Markdown-Formats.

Auch die von Google Deepmind in Nature veröffentlichte SynthID-Studie, auf die sich Anthropic beruft, überzeugt Gruber nicht. Die dort gemessenen Thumbs-up/down-Raten seien kein valider Maßstab für Textqualität. Niemand gebe einem Chatbot einen Daumen nach unten, weil er "Bananen" statt "Ananas" schreibe. Dass Gemini allgemein als schwächer als Claude und ChatGPT gelte, könnte laut Gruber teilweise auch mit dem bereits aktiven SynthID zusammenhängen.

Kanzleien müssen sich auf Transparenzfragen einstellen

Das Fachmedium Artificial Lawyer hat untersucht, was Anthropics Wasserzeichen für Kanzleien bedeuten. Das Fazit fällt überwiegend entspannt aus: Die Markierungen seien harmlos, in den meisten Fällen dürften weder Mandanten noch Gerichte Anstoß am KI-Einsatz nehmen, manche Mandanten fordern ihn inzwischen sogar aktiv ein.

Heikel werde es nur in bestimmten Konstellationen, etwa wenn Mandanten KI-Nutzung für ihre Mandate ausdrücklich untersagt haben oder ein Richter ihr skeptisch gegenübersteht. Dann ließe sich der KI-Anteil im Zweifel nachweisen, selbst wenn das eingereichte Dokument inhaltlich fehlerfrei ist, mit möglichen Konsequenzen für den weiteren Verlauf der Verhandlungen oder eines Prozesses.

Die Wasserzeichen wandern zudem mit dem Text. Ein komplexer Vertrag könnte Klauseln enthalten, die KI-markiert sind, während der Rest menschlich verfasst wurde. Künftige Verträge, die auf älteren Vorlagen mit KI-Anteilen basieren, tragen diese Markierungen weiter. Bei Nutzung mehrerer LLMs könnten sich sogar verschiedene Wasserzeichen in einem Dokument überlagern.

Auch Honorarverhandlungen könnten sich verschieben: Fordern Mandanten Preisnachlässe, weil KI die Arbeit erleichtert, wird der KI-Anteil prinzipiell überprüfbar.

Anthropic selbst betont ein, dass das Watermarking bei faktenbasierten Passagen "spärlicher" ausfalle, da es weniger Wortalternativen gebe. Für juristische Texte, die auf Präzision angewiesen sind, ist das ein relevanter Vorbehalt, auch wenn Artificial Lawyer bislang keine empirische Studie dazu kennt.

Wer die Markierung gezielt entfernen will, kann das derweil mit Paraphrasier-Tools wie Declaude tun. Dessen Entwickler James Padolsey kritisiert die zugrundeliegende EU-Regulierung als willkürlich: Das System treffe vor allem gewöhnliche Nutzer, während es gegen gezielte Umgehung wenig ausrichten könne.

Anthropic führt das Watermarking ein, um den EU AI Act zu erfüllen, wendet es aber mangels regionaler Begrenzungsmöglichkeit weltweit an. Alle ab dem 2. August veröffentlichten Claude-Modelle unterstützen die Markierung, ältere Modelle sollen in den kommenden Monaten nachgerüstet werden.