Die Kennzeichnung von KI-generierten Inhalten gewinnt angesichts wachsender Deepfakes und Missbrauchspotenziale an Bedeutung. Anthropic, das Unternehmen hinter dem KI-Modell Claude, hat deshalb das System SynthID entwickelt, um generierte Texte und Bilder mit einem unsichtbaren Wasserzeichen zu versehen. Dieses sollte dauerhaft in den KI-Outputs verbleiben und deren maschinelle Herkunft nachweisbar machen.
Das Verfahren funktioniert auf statistischer Basis: Das Modell bevorzugt bestimmte Wörter oder Pixel-Muster subtil, ohne dass dies für Nutzer erkennbar ist. Diese Muster sind spezifisch genug, um als Beweis für KI-Herkunft zu dienen, sollten aber natürlich wirken. Dies soll beispielsweise bei der Bekämpfung von Wahlbeeinflussung oder gefälschten Dokumenten helfen.
Doch die Sicherheit dieses Systems stellte sich als fragil heraus. Ein Sicherheitsforscher entwickelte innerhalb weniger Stunden ein Werkzeug, das die Wasserzeichen entfernen oder maskieren kann, indem es die generierten Texte leicht umformuliert oder umprozessiert. Dies geschah nicht durch komplexe Reverse-Engineering-Techniken, sondern durch relativ einfache Manipulationen.
Das Vorgefallene verdeutlicht ein grundsätzliches Problem der KI-Sicherheit: Schutzmassnahmen, die auf subtilen statistischen Mustern basieren, sind anfällig gegenüber gezielten Angriffen. Was für Menschen unmerklich sein soll, kann von automatisierten Werkzeugen oft leicht identifiziert und neutralisiert werden.
Für Unternehmen und KMU ist dieses Thema relevant, da KI-generierte Inhalte zunehmend in der Unternehmenskommunikation verwendet werden. Wenn Wasserzeichen leicht entfernt werden können, sinkt die Nachverfolgbarkeit solcher Inhalte. Das stellt neue Anforderungen an Compliance, Authentifizierung und die Vertrauenswürdigkeit von digitalen Dokumenten. Organisationen sollten sich bewusst machen, dass technische Markierungen allein nicht ausreichen; auch organisatorische und rechtliche Massnahmen sind nötig, um mit KI-generierten Inhalten verantwortungsvoll umzugehen.