Finanzaufsichtsbehörden in den USA und Europa haben ein gemeinsames Anliegen: Sie möchten verstehen, wie Banken KI-Agenten einsetzen und wie diese kontrolliert werden. KI-Agenten sind autonome Software-Systeme, die selbstständig Entscheidungen treffen können, beispielsweise Kreditanträge verarbeiten oder Handelsorders ausführen.
Die Aufseher haben erkannt, dass diese Systeme neue Risiken mit sich bringen. Ein fehlerhafter KI-Agent könnte beispielsweise systematisch Millionen von Transaktionen falsch verarbeiten, bevor jemand das Problem bemerkt. Daher fordern sie von Banken nachzuweisen, dass sie diese Systeme jederzeit unter Kontrolle haben und notfalls schnell abschalten können. Dies ist ein wichtiger Schritt zu verantwortungsvollem KI-Einsatz.
Für Schweizer Finanzinstitute und IT-Dienstleister, die diese Branchen unterstützen, hat dies direkte Auswirkungen. Regulatorische Anforderungen werden zweifellos folgen. Unternehmen, die KI-Systeme in Produktionsumgebungen einsetzen, sollten jetzt bereits eine umfassende Governance etablieren: regelmässiges Monitoring, klare Abschaltverfahren und Dokumentation von Entscheidungsprozessen. Dies gilt nicht nur für Finanzunternehmen, sondern auch für andere kritische Infrastrukturen. Die Botschaft der Aufseher ist klar: KI-Einsatz erfordert ebenso rigorose Sicherheits- und Kontrollfunktionen wie tradierte IT-Systeme, möglicherweise sogar noch strengere Standards.