Die Europäische Union fordert zunehmend eine Kennzeichnung von Inhalten, die von künstlichen Intelligenzen generiert wurden. Anthropic, Entwickler des Sprachmodells Claude, reagiert auf diesen regulatorischen Druck mit einer technischen Massnahme: Wasserzeichen in den Text-Outputs.
Die Idee ist bestechend einfach: Ein unsichtbares oder schwach sichtbares Wasserzeichen in KI-Texten soll diese als maschinengeneriert erkennbar machen. Dies könnte Probleme mit Deepfakes, Desinformation und unlauterer Nutzung adressieren. Doch die Technologie ist problematischer, als sie zunächst wirkt.
Zum einen können Wasserzeichen relativ leicht entfernt oder manipuliert werden. Ein Benutzer, der den generierten Text kopiert, verändert, umformuliert oder weiterverarbeitet, kann das Wasserzeichen unwissentlich oder absichtlich zerstören. Dies reduziert die Effektivität des Verfahrens erheblich. Zum anderen kann eine fehlerhafte oder fehlende Markierung falsches Vertrauen schaffen: Leser könnten einem Text ohne Wasserzeichen mehr Glauben schenken, selbst wenn er von einer KI stammt.
Ein weiteres Problem liegt in der Missbrauchsgefahr. Böswillige Akteure könnten Wasserzeichen nutzen, um menschliche Texte als KI-generiert zu markieren, was zu Missverständnissen und Vertrauensverlust führt. Auch legitime Anwendungen könnten beeinträchtigt werden: Ein Journalist, der KI zur Recherche nutzt, könnte versehentlich wassergezeichnete Snippets veröffentlichen.
Für KMU und ihre IT-Verantwortlichen ist dies relevant im Kontext von Compliance und Datenschutz. Unternehmen, die KI-Tools einsetzen, sollten verstehen, was diese Wasserzeichen leisten und nicht leisten können. Sie sollten auch prüfen, wie ihre eigenen Daten durch externe KI-Systeme verarbeitet werden und welche regulatorischen Anforderungen einzuhalten sind.