Die Europäische Union verlangt von KI-Anbietern eine transparente Kennzeichnung von Inhalten, die durch künstliche Intelligenz entstanden sind. Anthropic, ein führender Entwickler von grossen Sprachmodellen, hat nun reagiert und sein Claude-System mit einem Wasserzeichen versehen, das KI-generierte Texte markieren soll. Dies ist ein wichtiger Schritt zur Erfüllung regulatorischer Anforderungen.

Das Wasserzeichen funktioniert, indem es subtile Muster in den generierten Texten einbettet, die von speziellen Erkennungsalgorithmen ausgelesen werden können. Theoretisch ermöglicht dies später eine Überprüfung, ob ein Text von Claude stammt oder von Mensch verfasst wurde. Anthropic hat die Implementierung weltweit ausgerollt, was bedeutet, dass die Massnahme nicht nur auf EU-Märkte beschränkt bleibt.

Allerdings gibt es erhebliche Vorbehalte. Die Zuverlässigkeit des Systems ist nicht vollständig untersucht. Experten weisen darauf hin, dass Wasserzeichen in Texten durch einfache Bearbeitung entfernt werden können oder dass das System unter bestimmten Bedingungen fehlerhafte Ergebnisse liefert. Zudem fehlt es an standardisierten Verfahren für die öffentliche Überprüfung: Es ist unklar, wie Nutzer oder Behörden die Echtheid des Wasserzeichens selbst prüfen können. Das System bleibt also in gewisser Weise eine Blackbox.

Für KMU-Kunden hat diese Entwicklung mehrschichtige Auswirkungen. Einerseits können Unternehmen, die Claude für Textgenerierung einsetzen, darauf vertrauen, dass ihre generierten Inhalte gekennzeichnet sind und sie damit rechtliche Anforderungen erfüllen. Andererseits müssen sie sich bewusst sein, dass diese Kennzeichnung nicht lückenlos funktioniert und Überprüfungen begrenzt möglich sind. Für Branchen mit hohen regulatorischen Anforderungen, etwa Finanzdienstleistungen oder Rechtswesen, empfiehlt sich eine kritische Bewertung des Systems vor dem produktiven Einsatz.

Die Diskrepanz zwischen Anspruch und Wirklichkeit zeigt auch die grössere Herausforderung: Wie lässt sich KI-Transparenz in der Praxis robust umsetzen? Anthropics Ansatz ist ein Anfang, aber nicht die vollständige Lösung.