Der EU AI Act ist eines der weltweit ersten umfassenden Regulierungswerke für Künstliche Intelligenz. Das Gesetz ist in der Europäischen Union in Kraft getreten und legt fest, wie KI-Systeme entwickelt, geprüft und eingesetzt werden dürfen. Ein zentrales Prinzip des EU AI Act ist die Transparenz: KI-Anbieter müssen deutlich machen, wo KI eingesetzt wird, und Nutzer müssen informiert sein, wenn sie mit KI-generierten Inhalten zu tun haben.
Anthropic ist ein KI-Sicherheitsunternehmen, das das Sprachmodell Claude entwickelt hat. Claude ist ein fortgeschrittenes Sprachmodell, das Text versteht und generiert und wird von vielen Unternehmen und Entwicklern weltweit genutzt. Anthropic hat jetzt eine Massnahme angekündigt, die die Anforderungen des EU AI Act erfüllt.
Ab sofort wird Anthropic alle Texte, die von Claude generiert werden und nach dem Inkrafttreten des EU AI Act produziert werden, explizit markieren. Diese Markierung signalisiert Lesern, dass der Text von einer KI stammt und nicht von einem Menschen verfasst wurde. Dies ist eine wichtige Information für die Transparenz: Menschen sollen wissen, mit welcher Art von Inhalten sie umgehen.
Die Umsetzung dieser Markierungen ist technisch nicht trivial. Anthropic muss Tracking-Systeme implementieren, um zu wissen, wann ein Text generiert wurde, und Möglichkeiten schaffen, um Markierungen in verschiedenen Formaten und Medien einzufügen. Ausserdem muss Anthropic sicherstellen, dass die Markierungen nicht entfernt oder manipuliert werden können.
Für Unternehmen, die Claude nutzen, ist dies eine wichtige Entwicklung. Viele Organisationen, insbesondere europäische Unternehmen und solche, die in Europa tätig sind, müssen ihre KI-Nutzung dem EU AI Act konform gestalten. Mit der Markierung von Claude-Texten erhalten diese Unternehmen ein Werkzeug, um ihre Compliance-Anforderungen zu erfüllen. Sie können dokumentieren, dass KI-generierte Inhalte in ihren Prozessen verwendet werden, und können dies offenlegen, wenn nötig.