Anthropic kündigt unsichtbares Wasserzeichen für Claude-Texte an – Kritiker warnen vor Falschmarkierungen

„Das US-Unternehmen Anthropic hat angekündigt, Texte seines Chatbots Claude mit einem unsichtbaren Wasserzeichen zu versehen, um den EU-Vorgaben zum Umgang mit künstlicher Intelligenz (KI) zu entsprechen“, heißt es in dem Bericht. Dabei setzt das Verfahren nach Angaben von Fachleuten auf statistische Muster in der Wortwahl, die für menschliche Leser unsichtbar, für entsprechende Prüfprogramme jedoch auslesbar sind.

So funktioniert das Wasserzeichen

Kritiker warnen jedoch vor einem gegenteiligen Effekt. Da das Wasserzeichen auf der Ebene einzelner Wörter und Formulierungen ansetzt, kann es demnach auch menschliche Texte treffen, die anschließend nur in Teilen von einer KI überarbeitet wurden. „Benutzer, die zum Beispiel ihren selbstgeschriebenen Text zur Überarbeitung an die KI geben, werden künftig mit dem Risiko leben müssen, dass ihre Texte komplett als KI-Erzeugnis gebrandmarkt werden – auch wenn über den ganzen Text hinweg nur an einzelnen Formulierungen und Wörtern gefeilt wurde“, warnt der Bericht.

Demnach steigt für Autorinnen und Autoren, Studierende und Journalistinnen die Gefahr, dass ihre Werke fälschlich als KI-Erzeugnis eingestuft werden – mit möglichen Folgen für Benotung, Urheberrecht und Glaubwürdigkeit. Auch redaktionelle Workflows, in denen KI nur als Lektoratshilfe eingesetzt wird, könnten betroffen sein.

Reaktionen von Anbietern und Brüssel

Anthropic gehört zu einer Reihe großer Anbieter, die in den vergangenen Monaten auf die EU-Regeln reagieren. Neben dem US-Konzern haben auch Microsoft und das französische Unternehmen Mistral ähnliche Kennzeichnungen angekündigt oder bereits eingeführt. Brüssel beobachtet die Umsetzung genau und behält sich weitere Schritte vor, falls die Vorgaben nicht eingehalten werden.

Der Schritt kommt nur einen Tag nachdem in mehreren Sendungen weitere Nachrichten aus aller Welt gemeldet wurden, darunter Rettungsarbeiten nach einem Erdbeben in Kolumbien, ein Ausbruch des Vulkans Ätna mit Flugausfällen in Sizilien, die Entschärfung von Fliegerbomben in Neu-Ulm, eine Bundesratsinitiative Niedersachsens zu Kindermedien-Stars, Wettermeldungen aus Bayern sowie weitere Medaillen deutscher Sportlerinnen und Sportler.

Die EU-Kommission betont, dass die Kennzeichnungspflicht Teil eines umfassenden Pakets zur Regulierung von KI sei. Ziel sei, Verbraucherinnen und Verbraucher vor Täuschung zu schützen und zugleich Innovationen nicht abzuwürgen.

Was die Kennzeichnung für Nutzer bedeutet

Anthropic erklärte, man werde das Wasserzeichen sukzessive ausrollen und gleichzeitig an Verfahren arbeiten, die Fehlklassifikationen menschlicher Texte verringern. Unabhängige Prüfstellen sollen die Trefferquote der Erkennung in den kommenden Monaten kontrollieren.

Beobachter sehen in der Debatte einen Grundkonflikt: Einerseits sollen KI-generierte Inhalte zweifelsfrei erkennbar sein, andererseits darf die Markierung nicht zum Werkzeug werden, das redliches Schreiben unter Generalverdacht stellt.