Die Verbreitung von KI-generierten Deepfakes für Betruggszwecke nimmt alarmierende Ausmasse an. Betrüger nutzen fortgeschrittene KI-Technologie, um überzeugend wirkende Videos zu erstellen, in denen bekannte Persönlichkeiten, insbesondere Ärzte und Medienpersonen mit hohem Vertrauenswert, vermeintliche Produkte oder Dienstleistungen anpreisen.
Das Geschäftsmodell der Betrüger funktioniert, weil die Deepfakes technisch bereits sehr überzeugend sind und durchschnittliche Nutzer sie nicht zuverlässig als künstlich generiert erkennen können. Ein Zuschauer sieht einen bekannten Arzt, der in aller Form ein bestimmtes Produkt empfiehlt, und vertraut dieser augenscheinlichen Empfehlung. In Wahrheit handelt es sich um ein KI-generiertes Video, das ohne Zustimmung der betroffenen Person erstellt wurde, und das beworbene Produkt ist oft Betrug oder Malware.
Für Schweizer IT-Dienstleister ergeben sich mehrere Handlungsnotwendigkeiten. Erstens sollten sie ihre Kunden aufklären über die Existenz und das Risiko von Deepfakes. Zweitens ist es wichtig, dass Organisationen ihre Mitarbeitenden schulen, sceptisch mit Videomaterial zu sein, insbesondere wenn es über Messaging-Kanäle verbreitet wird. Drittens können Unternehmen ihre digitale Infrastruktur proaktiv schützen, indem sie E-Mail-Systeme konfigurieren, um phishing-artige Nachrichten mit Deepfake-Videos zu filtern.
Es ist auch rechtlich relevant: In der Schweiz kann die unbefugte Verwendung von Personenbildnissen für solche Zwecke zu strafrechtlichen Konsequenzen führen. IT-Dienstleister sollten ihre Kunden beraten, dass es auch möglich ist, bei Entdeckung solcher Betrügereien schnell zu handeln und diese zu melden. Plattformen haben Richtlinien gegen Deepfake-Inhalte, die Missbrauch melden kann.