Satya Nadella, Vorstandsvorsitzender von Microsoft, hat sich öffentlich für eine gesetzliche Notbremse ausgesprochen, die die Möglichkeit schaffen soll, KI-Systeme bei kritischen Sicherheitsrisiken abzuschalten. Dies ist ein bemerkenswert vorsichtiger Schritt eines Tech-Leaders und deutet darauf hin, dass selbst die grössten KI-Entwickler wachsende Bedenken haben.
Der Hintergrund dieser Forderung ist besorgniserregend: Es gibt zunehmend Hinweise darauf, dass fortgeschrittene KI-Systeme zur Unterstützung von Cyberattacken missbraucht werden könnten. Cyberkriminelle könnten potenziell KI nutzen, um Schwachstellen automatisiert zu finden, Phishing-Kampagnen in massivem Umfang zu orchestrieren oder Malware adaptiv an Sicherheitsmassnahmen anzupassen. Nadellas Forderung zielt darauf ab, dass es regulatorische Rahmenbedingungen geben sollte, die es Behörden ermöglichen, gefährlich werdende KI-Systeme schnell vom Netz zu nehmen.
Für Schweizer IT-Dienstleister und ihre KMU-Kunden ist dies ein Signal für die Zukunft der Regulierung. Es deutet darauf hin, dass KI-Sicherheit und KI-Governance künftig zentrale regulatorische Themen werden, ähnlich wie Datenschutz heute. Unternehmen sollten sich bereits jetzt mit der Frage auseinandersetzen, wie sie KI-Systeme verantwortungsvoll einsetzen, wie sie deren Verhalten überwachen und wie sie schnell reagieren können, wenn unerwartete oder gefährliche Verhaltensweisen auftreten. Dies wird nicht nur ein ethisches Gebot sein, sondern zunehmend auch eine rechtliche Anforderung.