Die Sicherheit von autonomen Systemen mit künstlicher Intelligenz gewinnt an Bedeutung, je mehr KI-Agenten im geschäftlichen Einsatz Entscheidungen treffen und auf Ressourcen zugreifen. Nvidia hat daher seine Sicherheitsinfrastruktur für solche Systeme ausgebaut.
Das Unternehmen setzt dabei auf zwei Ebenen: Die Software-Schicht wird durch OpenShell kontrolliert, das bereits Zugriffe begrenzt und bestimmte Aktionen untersagt. Auf der Hardware-Ebene kommt die neue Komponente Sentry zum Einsatz, die als zusätzliche Überwachungsschicht fungiert und sicherstellt, dass KI-Systeme die zulässigen Grenzen nicht überschreiten.
Dieses Zwei-Schichten-Modell folgt dem Sicherheitsprinzip der verteidigten Tiefe. Falls die Software-Kontrolle umgangen werden sollte, greift die Hardware-Schutzschicht ein. Damit soll verhindert werden, dass fehlerhafte oder potenziell kompromittierte KI-Systeme unkontrolliert auf sensible Daten oder Geschäftsprozesse zugreifen.
Für Unternehmen, die KI-Agenten für Automatisierung, Datenanalyse oder Kundeninteraktion einsetzen, bedeutet dies eine wichtige Sicherheitsverbesserung. Viele Schweizer KMU beginnen, solche Systeme zu testen, müssen sich aber Gedanken über die Kontrollierbarkeit machen. Nvidias Ansatz adressiert genau diese Bedenken: Durch klare technische Grenzen sollen KI-Systeme zuverlässiger einsetzbar werden, ohne dass Sicherheitsrisiken entstehen.
Die Implementierung von Sicherheitsmechanismen auf mehreren Ebenen wird wahrscheinlich zum Standard bei KI-Deployments, da Regulierung und Best Practice zunehmend solche Massnahmen fordern.