Der kalifornische Gouverneur Gavin Newsom hat eine Executive Order unterzeichnet, die unter anderem die Prüfung und Entwicklung eines «Kill Switch» für KI-Modelle vorsieht. Diese Massnahme zielt darauf ab, eine schnelle und zuverlässige Möglichkeit zu schaffen, KI-Systeme im Notfall abzuschalten, sollten diese sich unerwartet verhalten oder schaden anrichten.
Die Idee eines «Kill Switch» für KI ist nicht neu, wird aber mit zunehmendem Einsatz von KI-Systemen in kritischen Anwendungen immer relevanter. Ein solcher Mechanismus könnte beispielsweise genutzt werden, wenn ein KI-System beginnt, auf unerwartete oder schädliche Weise zu agieren, oder wenn es Befehle ausführt, die seinen ursprünglichen Zielen zuwiderlaufen. Dies ist besonders wichtig für KI-Systeme, die in kritischen Infrastrukturen, Finanzanwendungen oder sicherheitsrelevanten Kontexten eingesetzt werden.
Die technische Umsetzung eines solchen Systems ist komplex. Es muss gewährleisten, dass ein KI-System schnell gestoppt werden kann, ohne dass es durch Umgehen oder Manipulieren des Stopps wieder aktiviert werden kann. Gleichzeitig muss sichergestellt werden, dass legitime Prozesse nicht fälschlicherweise unterbrochen werden.
Für Schweizer KMU, die KI in ihre Geschäfsprozesse integrieren, ist diese Entwicklung relevant. Sie unterstreicht, dass Regulierung und Governance um KI-Systeme nicht nur theoretische Konzepte sind, sondern praktische Anforderungen werden. Organisationen sollten bei der Implementierung von KI-Lösungen bereits jetzt überlegen, wie sie ihre KI-Systeme kontrollieren und notfalls stoppen können. Dies umfasst technische Mechanismen, aber auch Prozesse und Governance-Strukturen, die schnelle Entscheidungen ermöglichen. Mit zunehmender Regulierung werden solche Kontrollmechanismen nicht nur eine Best Practice, sondern voraussichtlich auch eine Compliance-Anforderung.