Das Open Web Application Security Project (OWASP) hat eine aktualisierte Version seiner Top-10-Liste für Sicherheitsrisiken in KI-Anwendungen herausgegeben. Während die identifizierten Gefahren teilweise nicht vollständig neu sind, unterscheidet sich dieser Release dadurch, dass OWASP die Relevanz und Häufigkeit dieser Risiken nun mit empirischen Daten belegt hat.
Die Liste behandelt verschiedene Kategorien von Sicherheitsbedrohungen, die speziell für KI- und maschinelles Lernen relevant sind. Dazu gehören Probleme wie unzureichende Eingabevalidierung bei Trainings- und Inferenzdaten, unvollständiges Verständnis von Modellverhalten, unzureichende Datenkontrolle, Sicherheitsprobleme in der Versorgungskette von KI-Komponenten sowie mangelnde Transparenz bei Modellentscheidungen. Durch die Verlinkung mit realen Sicherheitsvorfällen und Forschungsdaten wird die praktische Relevanz dieser Punkte deutlich.
Für Unternehmen, die in KI- und Automatisierungsprojekte investieren oder solche bereits einsetzen, ist dies eine wichtige Orientierungshilfe. KMU sollten diese Risiken bei der Entwicklung oder beim Einsatz von KI-gestützten Systemen berücksichtigen. Eine Sicherheitsbewertung entlang dieser OWASP-Kategorien kann dazu beitragen, potenzielle Schwachstellen frühzeitig zu identifizieren. Es empfiehlt sich, KI-Sicherheit nicht als Nebenaufgabe zu betrachten, sondern von Anfang an in alle Entwicklungs- und Deployment-Prozesse einzubeziehen. Teams sollten sich mit diesen Risiken vertraut machen und entsprechende Sicherheitsvorkehrungen in ihre KI-Pipelines integrieren.