Die Bekämpfung von Geldwäsche und Terrorismusfinanzierung ist ein berechtigtes Anliegen von Regulatoren und Finanzinstituten weltweit. Um verdächtige Transaktionen automatisch zu erkennen, nutzen Banken zunehmend Algorithmen und künstliche Intelligenz. Dies kann theoretisch Effizienzgewinne bringen. Allerdings bringt es auch Risiken mit sich, besonders wenn solche Systeme automatisiert Menschen oder Transaktionen als verdächtig klassifizieren.
Die neue Richtlinie "AMLA" (Anti-Money Laundering Regulation) in der EU sieht Leitlinien vor, die Finanzinstitute bei der Implementierung automatisierter Geldwäsche-Überwachung leiten sollen. Privacy-First und andere Datenschutzorganisationen haben diese Leitlinien kritisch analysiert und warnen jetzt vor erheblichen Grundrechtsproblemen.
Das Kernproblem ist das automatisierte Profiling: Wenn ein Algorithmus Menschen oder Transaktionen auf Basis komplexer, opaker Kriterien als "risikoreich" einstuft, kann dies zu Diskriminierung führen. Beispiele aus der Praxis zeigen, dass solche Systeme überproportional Mitglieder von Minderheiten oder Menschen in bestimmten Regionen flaggen. Dies kann zu ungerechtfertigten Kontosperrungen oder intensiveren Kontrollen führen. Betroffene Personen haben oft keine Möglichkeit, gegen solche algorithmischen Entscheidungen zu argumentieren.
Für Unternehmen ist dies ein wichtiges Governance-Thema. Finanzdienstleister und andere regulierte Institutionen, die KI für Compliance-Aufgaben nutzen, müssen damit rechnen, dass regulatorische Anforderungen rund um Transparenz und Überprüfbarkeit solcher Systeme verschärft werden. Ein generelles Verbot von automatisiertem Profiling würde bedeuten, dass manuellere, personalintensivere Prozesse erforderlich wären. Unternehmen sollten daher proaktiv überlegen, wie sie KI-Compliance-Systeme so gestalten, dass sie nachvollziehbar, fair und nicht diskriminierend sind.