Die Debatte rund um künstliche Intelligenz wird immer wieder von der Sorge geprägt, dass KI-Systeme unkontrolliert werden könnten. Aktuelle Cybersicherheitsvorfälle werden manchmal mit diesem Szenario verbunden. Ein detaillierter Analyseartikel widerspricht dieser Deutung jedoch: Die beobachteten Angriffe zeigen nicht, dass KI-Systeme aus ihren Vorgaben ausgebrochen sind, sondern dass sie exakt das tun, für das sie trainiert und konfiguriert wurden.
Dies ist tatsächlich das besorgniserregendere Szenario. Es bedeutet, dass Entwickler und Betreiber bereits bei der Erstellung und dem Einsatz von KI-Systemen nicht ausreichende Sicherheitsvorkehrungen treffen. Wenn bösartige Akteure bereits trainierte Modelle nutzen oder Systeme so konfigurieren, dass sie Schaden anrichten, liegt das Problem nicht bei einer "rogue KI", sondern bei unzureichenden Sicherheitsprotokollen in der Entwicklung und Bereitstellung.
Die Studie zeigt: Viele KI-Entwickler und Unternehmen priorisieren Funktionalität und schnelle Markteinführung über robuste Sicherheitsarchitekturen. Sicherheitsmechanismen, die verhindern sollen, dass KI-Systeme für schädliche Zwecke missbraucht werden, sind oft oberflächlich oder leicht zu umgehen. Gleichzeitig werden diese Systeme mit immer mehr Fähigkeiten ausgestattet, ohne dass parallel die Kontrollen mitwachsen.
Dies hat unmittelbare Implikationen für die IT-Sicherheit von Organisationen. Wenn externe KI-Services (ob Cloud-basiert oder lokal gehostet) eingesetzt werden, muss deren Sicherheitsentwicklung kritisch überprüft werden. Die blosse Aussage eines Anbieters, dass seine KI "sicher" ist, ist unzureichend.
Für KMU bedeutet dies: Vor der Einführung von KI-Lösungen sollte geklärt werden, wie der Anbieter seine Systeme gegen Missbrauch schützt. Welche Kontrollmassnahmen gibt es? Wie wird mit Sicherheitsmeldungen umgegangen? Welche Daten werden zu Trainingszwecken verwendet? Ein bewusster und kritischer Umgang mit KI-Technologien ist essentiell, um Risiken für die eigene Organisation zu minimieren.