Die Fähigkeit moderner KI-Systeme, Stimmen synthetisch zu erzeugen oder zu manipulieren, hat sich zu einem ernsthaften Sicherheitsrisiko entwickelt. Ein aktueller Fall in Italien zeigt die reale Gefahr: Der Leiter eines grösseren Finanzinstituts erhielt einen Anruf von jemandem, dessen Stimme er als bekannte Vertrauensperson erkannte. Der Anrufer war jedoch keineswegs wer er vorgab zu sein, sondern ein Krimineller, der mittels KI die Stimme eines Geschäftspartners oder Vorgesetzten syntetisch nachgeahmt hatte.
Durch diesen Sprachbetrug und social Engineering-Techniken manipulierten die Betrüger den Bankvorstand derart geschickt, dass er die Freigabe einer Überweisung in dreistelliger Millionenhöhe autorisierten. Der Schaden belief sich auf etwa 95 Millionen Euro. Dieser Fall unterstreicht, dass es nicht ausreicht, sich auf traditionelle Authentifizierungsmethoden wie visuelle oder stimmliche Erkennung zu verlassen.
Derartige Angriffe kombinieren mehrere Technologien und sozialpsychologische Manipulationstechniken. Die Täter recherchieren im Vorfeld sorgfältig ihre Ziele, sammeln verfügbare Audioaufnahmen oder Videoauftritte, um KI-Modelle zu trainieren, und nutzen dann gezielt organisatorisches und persönliches Wissen, um ihre Opfer unter Druck zu setzen.
Für KMU und deren IT-Dienstleister ist diese Meldung ein Weckruf. Unternehmen sollten ihre Finanzprozesse überprüfen und mehrschichtige Sicherheitsmassnahmen implementieren: etwa Callback-Verfahren (bei wichtigen Transaktionen zu einer bekannten Nummer anrufen), Vier-Augen-Prinzipien für hohe Beträge und Schulung von Mitarbeitern zu diesen neuen Betrugsmethoden. Technische Lösungen wie spezialisierte Audio-Authentifizierung und KI-gestützte Anomalieerkennung in Transaktionsmuster können zusätzlichen Schutz bieten.