Mit der neuen ISO/IEC 27090 gibt es nun erstmals einen internationalen Standard, der speziell Sicherheitsmassnahmen für KI-Systeme definiert. Diese Norm adressiert die speziellen Risiken, denen künstliche Intelligenzsysteme ausgesetzt sind, und unterscheidet sich damit von traditionellen IT-Sicherheitsstandards, die auf konventionelle Software und Infrastruktur fokussieren.
KI-Systeme sind einer Reihe einzigartiger Bedrohungen ausgesetzt. Eine der gefährlichsten ist die sogenannte Datenvergiftung, bei der Angreifer absichtlich fehlerhafte oder bösartige Trainingsdaten in ein KI-Modell einschleusen, um sein Verhalten zu manipulieren oder zu sabotieren. Ein anderes Risiko ist der Modelldiebstahl, bei dem Attackierende versuchen, trainierte KI-Modelle zu stehlen, um sie zu kopieren oder zu missbrauchen.
Die ISO-Norm bietet praktische Richtlinien, wie Organisationen ihre KI-Systeme gegen solche Angriffe schützen können. Dies umfasst technische Massnahmen wie die Überwachung von Trainingsdaten auf Anomalien, die Verwendung von Verschlüsselung zum Schutz von Modellen und die Implementierung von Zugriffskontrollmechanismen. Zudem adressiert die Norm organisatorische und prozessuale Aspekte von KI-Sicherheit.
Für Unternehmen, die KI in ihre Geschäftsprozesse integrieren, ist dieser Standard ein wichtiger Leitfaden. Die Norm hilft dabei, ein kohärentes Sicherheitskonzept rund um KI-Anwendungen zu etablieren. Sie bietet auch eine gemeinsame Sprache und einen Konsensrahmen für verschiedene Stakeholder, von Entwicklern über Sicherheitsteams bis hin zu Auditoren.
Für KMU-IT-Dienstleister bedeutet dies ein neues Geschäftsfeld: Beratung und Implementierung von KI-Sicherheitsmassnahmen nach internationalem Standard. Kunden, die KI-Systeme entwickeln oder einsetzen, werden zunehmend davon ausgehen, dass ihre IT-Partner mit solchen Standards vertraut sind. Die Norm kann auch bei der Compliance helfen, da regulatorische Anforderungen rund um KI-Governance zunehmend strenger werden. Organisationen sollten beginnen, ihre KI-Systeme gegen die Anforderungen dieser neuen Norm zu bewerten.