Mit der zunehmenden Verbreitung von KI-Anwendungen wachsen auch die Sicherheitsrisiken. Ein spezieller Workshop behandelt das Thema Prompt Injection, eine relativ neue Angriffsart, die KI-Systeme gezielt missbrauchen kann.
Prompt Injection ist eine Technik, bei der Angreifer bewusst formulierte Eingaben in ein KI-System einspeisen, um dieses zu manipulieren. Statt die intendierte Aufgabe auszuführen, folgt die KI unerwünschten Anweisungen des Angreifers. Ein Beispiel: Ein Chatbot wird durch versteckte Befehle dazu gebracht, vertrauliche Informationen preiszugeben oder unzulässige Handlungen durchzuführen.
Der Workshop vermittelt praktisches Wissen zur Behebung dieser Sicherheitslücke. Teilnehmer lernen, wie man zunächst die Angriffsfläche eigener KI-Anwendungen erfasst. Das bedeutet, alle Stellen zu identifizieren, an denen externe Eingaben in das System gelangen und die KI beeinflussen könnten.
Darüber hinaus geht es um die Implementierung effektiver Schutzmassnahmen. Das können technische Lösungen sein, etwa die Validierung von Eingaben, die Isolierung von Systemprompts oder das Einsatz von spezialisierten Filters. Aber auch organisatorische Massnahmen werden behandelt.
Ein wichtiger Punkt ist die Verifizierung der Wirksamkeit dieser Schutzmechanismen. Der Workshop lehrt auch, wie man gezielt Tests durchführt, um sicherzustellen, dass die implementierten Massnahmen tatsächlich funktionieren.
Dies ist hochrelevant für KMU, die KI-Technologien einsetzen oder entwickeln. Ein verseuchter Chatbot auf der Unternehmenswebseite könnte Kundendaten preisgeben oder das Markenimage beschädigen. Ein manipuliertes internes KI-System könnte Geschäftsprozesse beeinträchtigen. Die richtige Sicherheitsarchitektur ist daher essentiell, um KI-Investitionen zu schützen und Compliance-Anforderungen zu erfüllen.