Die zunehmende Verfügbarkeit von generativen KI-Modellen hat zu einer wachsenden Sorge geführt: Wie können wir erkennen, ob Mediainhalte (Bilder, Videos, Text, Audio) authentisch sind oder von KI erzeugt wurden? Dies ist nicht nur für einzelne Nutzer relevant, sondern auch für Nachrichtenmedien, Unternehmen und Behörden, die mit Desinformation und Fakes kämpfen.
Google adressiert dieses Problem mit SynthID, einem Tool, das Nutzern ermöglicht, Mediendateien hochzuladen und zu überprüfen, ob sie von KI stammen. Das System analysiert die Datei und gibt eine Bewertung aus, wie wahrscheinlich es ist, dass KI bei der Erzeugung beteiligt war. Google hat diese Technologie nun ausgeweitet und zusätzlich zur Bildanalyse auch Video- und Audioanalyse integriert.
Die Technik dahinter nutzt sogenannte "digitale Wasserzeichen", die KI-Modelle in generierte Inhalte einbetten können, sowie andere analytische Verfahren, um Muster zu erkennen, die typisch für KI-Erzeugnis sind.
Allerdings gibt es Einschränkungen: Nicht alle KI-Modelle nutzen digitale Wasserzeichen, und ausgefeilte Angreifer könnten lernen, diese zu umgehen. Zudem kann das Tool nicht mit Sicherheit sagen, ob ein Bild zu 100 Prozent von KI erzeugt oder bearbeitet wurde. Es bietet eher eine Orientierung als eine definitive Antwort.
Für Unternehmen und Medienfachleute ist dies dennoch ein nützliches Werkzeug im Arsenal gegen Desinformation. KMUs, die mit Inhalten arbeiten oder sich vor Betrug schützen möchten, können SynthID als eine zusätzliche Kontrollebene einsetzen. Es sollte jedoch nicht als einziges Vertrauenskriterium verwendet werden.