Das KI-Unternehmen Anthropic hatte eine neue Sicherheitsmassnahme eingeführt, um KI-generierte Inhalte kennzeichnen zu können. Mittels einer speziellen Watermarking-Technik sollten Texte, Bilder und andere Ausgaben von Claude mit einem unsichtbaren digitalen Merkmal versehen werden. Dies hätte helfen sollen, die Herkunft von Inhalten zu verfolgen und potentiellen Missbrauch zu minimieren.
Das Watermark sollte robust gegen Veränderungen sein, um auch nach Bearbeitung noch erkennbar zu bleiben. Beispielsweise sollte es auch nach dem Umformatieren von Text, leichten Paraphrasierungen oder anderen kleineren Änderungen erhalten bleiben. Damit sollte eine Unterscheidung zwischen von Menschen verfassten und von KI-generierten Inhalten möglich sein.
Ein Sicherheitsforscher und Programmierer hat jedoch bereits ein Tool veröffentlicht, das das Wasserzeichen entfernen kann. Der Entwickler zeigt damit, dass die Implementierung in der praktischen Anwendung angreifbar ist. Mit automatisierten Techniken lässt sich das Wasserzeichen relativ leicht wieder entfernen, sodass die Markierung faktisch wirkungslos wird.
Dies hat mehrere Implikationen: Zum einen wird es schwächer, KI-generierte Inhalte zuverlässig zu kennzeichnen. Zum anderen zeigt es erneut, dass sogenannte DRM-Systeme (Digital Rights Management), zu denen auch Watermarks gehören, oft schnell geknackt werden. Dies ist ein bekanntes Phänomen in der IT-Sicherheit: Wenn die Entfernung eines Schutzmechanismus wirtschaftlich Sinn macht, werden Hacker und Forscher Tools dafür entwickeln.
Für Anthropic bedeutet dies, dass eine andere Strategie zur Steuerung von KI-generierten Inhalten nötig sein könnte. Für KMU-Kunden, die mit KI-Tools arbeiten, ist dies ein Hinweis darauf, dass technische Schutzmassnahmen allein nicht ausreichen. Zuverlässigere Inhaltsverifikation und Policies sind nötig, um Missbrauch zu vermeiden.