Künstliche Intelligenz wird zunehmend in geschäftskritischen Anwendungen eingesetzt, doch viele Unternehmen verstehen die spezifischen Sicherheitsrisiken von KI-Systemen noch nicht ausreichend. Ein neuer Trainings-Workshop setzt genau dort an und verfolgt einen praktischen Ansatz: durch aktives Angreifen lernt man am besten, wie man sich verteidigt.
Der Workshop arbeitet mit realistischen Szenarien. Teilnehmer greifen beispielsweise einen Bank-Chatbot an und versuchen, ihn zu verwirren oder zu manipulieren, um unautorisierten Zugriff auf Informationen oder Funktionen zu erlangen. Das zeigt eindrucksvoll, wie einfach KI-Systeme getäuscht oder fehlgeleitet werden können, wenn sie nicht richtig gehärtet sind. Solche Test-Szenarien sind oft aufschlussreicher als nur theoretisches Wissen.
In der Praxis ergeben sich neue Angriffsvektoren, die es bei klassischer Software nicht gibt. Adversarial Prompts können KI-Sprachmodelle dazu bringen, ihre Sicherheitsrichtlinien zu ignorieren. Datenverunreinigung während des Trainings kann zu systematisch falschen oder manipulierten Ausgaben führen. Modell-Inversion-Angriffe versuchen, aus den Outputs eines Modells auf seine Trainingsdaten zu schliessen. Der Workshop vermittelt, wie diese Risiken erkannt und reduziert werden.
Für KMUs ist dieser Kurs relevant, weil immer mehr Unternehmen KI-Lösungen einführen, manchmal ohne sich der Sicherheitsimplikationen bewusst zu sein. Ein Chatbot, der unkontrolliert interne Informationen preisgibt, kann erheblichen Schaden anrichten. Ein fehlergesteuertes KI-System in der Fertigung kann Qualitätsprobleme verursachen oder sogar Ausfallzeiten auslösen. Mit grundlegendem Verständnis von KI-Sicherheit können Unternehmen solche Risiken deutlich reduzieren und ihre Implementierungen robuster gestalten.