Eine aktuelle Studie zu den Auswirkungen von KI-generierten Videos auf das öffentliche Vertrauen kommt zu beunruhigenden Ergebnissen. Ein grosser Teil der deutschsprachigen Bevölkerung kann nicht zuverlässig zwischen echten und manipulierten Videoinhalten unterscheiden. Besonders problematisch ist, dass viele Menschen auf Deepfakes hereinfallen und diese als authentisch wahrnehmen, ohne dies zu bemerken.

Deepfakes sind Videos, in denen Gesichter oder Stimmen von bekannten Personen technisch verfälscht werden, oft mit dem Ziel, diese Personen etwas sagen zu lassen, was sie nie gesagt haben. Die Technologie wird zunehmend leistungsfähiger und benötigt immer weniger Aufwand, um überzeugende Fälschungen zu erstellen. Mit dem Einsatz von generativen KI-Modellen ist es heute möglich, Deepfakes in Minuten statt Stunden zu erstellen.

Die Studie belegt mehrere problematische Trends: Erstens sinkt das allgemeine Vertrauen in Videomaterial, da Zuschauer unsicher werden, ob etwas real ist oder nicht. Zweitens nutzen Desinformationskampagnen verstärkt Deepfakes, um Falschinformationen zu verbreiten. Drittens verschieben sich Vertrauensstrukturen weg von klassischen Medien hin zu einzelnen Content Creatorn, die als glaubwürdiger wahrgenommen werden.

Als Reaktion auf diese Entwicklung fordern die Befragten mehrheitlich gesetzliche Kennzeichnungspflichten für KI-generierte oder manipulierte Inhalte. Die Idee ist, dass solche Videos gekennzeichnet werden müssen, ähnlich wie mit einem Wasserzeichen oder einer digitalen Signatur. Dies könnte Zuschauern helfen, manipulierte Inhalte zu erkennen.

Für Unternehmen und Organisationen hat dies mehrere Implikationen: Erstens müssen Kommunikationsabteilungen verstärkt auf die Authentizität ihrer eigenen Videoinhalte prüfen und möglicherweise Zertifizierungen anstreben. Zweitens sollten interne Kommunikation und Schulungen verstärkt auf die kritische Bewertung von Videomaterial sensibilisieren. Drittens müssen regulatorische Entwicklungen wie Kennzeichnungspflichten beobachtet werden, um Compliance sicherzustellen. Für KMUs ist dies auch eine Chance: Wer Authentizität und Transparenz in seinen Medien praktiziert, kann Vertrauen aufbauen und sich von Mitbewerbern differenzieren.