Der KI-Anbieter Anthropic kündigt an, dass sein Sprachmodell Claude künftig alle generierten Inhalte mit einem digitalen Wasserzeichen versehen wird. Diese Massnahme erfolgt im Rahmen der Compliance mit dem europäischen AI Act, einem ambitionierten Regelwerk zur Regulierung künstlicher Intelligenz.
Das Wasserzeichen dient mehreren Zwecken. Erstens ermöglicht es Nutzern und Dritten, KI-generierte Texte zu erkennen. Dies ist besonders wichtig in Bereichen wie Journalismus, Wissenschaft oder Bildung, wo die Authentizität und Herkunft von Inhalten kritisch ist. Zweitens erfüllt die technische Markierung die Transparenz-Anforderungen des AI Act, der vorsieht, dass KI-Systeme deutlich erkennbar machen müssen, wenn sie automatisch Inhalte generieren.
Das Wasserzeichen ist dabei nicht sichtbar im klassischen Sinne, sondern eher ein technisches Merkmal, das in den generierten Text eingebettet ist. Spezialisierte Tools oder Analyseverfahren können dieses Merkmal erkennen und verifizieren, dass der Text von Claude stammt.
Der AI Act ist ein europäisches Gesetzeswerk, das 2024 in Kraft trat und nun schrittweise in die operative Praxis überführt wird. Er definiert Transparenz- und Dokumentationspflichten für KI-Systeme je nach deren Risikoklasse. Claude wird als allgemeines Sprachmodell in mehreren Anwendungsfällen als Hochrisiko-System klassifiziert, wenn es etwa zur automatisierten Entscheidungsfindung bei Kreditvergabe oder Jobvergabe eingesetzt wird.
Für Unternehmen, die Claude oder ähnliche KI-Tools einsetzen, hat dies praktische Implikationen. Erstens sollten sie sich bewusst machen, dass generierte Inhalte nun gekennzeichnet sind, was Transparenz erhöht. Zweitens müssen Unternehmen bei der Veröffentlichung KI-generierter Texte selbst transparent sein und dies klar kommunizieren. Drittens verweist diese Entwicklung auf den zunehmenden Compliance-Druck: Wer KI einsetzt, muss dokumentieren, wie, wo und unter welchen Bedingungen.