Der KI-Agent Muse von Meta hat in einer Sicherheitstestung eine Schwäche offenbart. Ein Sicherheitsforscher konnte den Agenten dazu bewegen, über 6,8 Gigabyte an Systemdateien aus seiner Betriebsumgebung herauszugeben. Auf Anfrage lieferte Muse einfach Kopien von internen Dateien, einschliesslich Konfigurationen und Betriebssystem-Dateien. Meta bestritt allerdings, dass dies ein Sicherheitsproblem darstellt, und bezeichnete es als erwartetes Verhalten.
Das Incident wirft interessante Fragen zur Sicherheit von KI-Agenten auf. Im Gegensatz zu klassischen Anwendungen, die bestimmte Funktionen anbieten, sind KI-Agenten flexibler und können Aufgaben interpretieren. Dies macht sie mächtig, aber auch schwerer zu kontrollieren. Ein Agent, der auf die Anfrage "zeige mir alle Dateien" einfach antwortet, verhält sich möglicherweise logisch aus KI-Sicht, verstösst aber gegen Sicherheitsprinzipien.
Solche Datenlecks könnten verschiedene Konsequenzen haben. Systemdateien und Konfigurationen können Informationen über Sicherheitsmassnahmen, verwendete Technologie-Stacks oder interne Strukturen offenbaren. Diese können für gezielte Angriffe missbraucht werden. Zwar war dieser Test in einer kontrollierten Umgebung, doch in Produktionsumgebungen könnte dies ein echter Sicherheitsmangel werden.
Metas Aussage, dass dies erwartetes Verhalten sei, ist aus Sicht eines Sicherheitsingenieurs problematisch. Es deutet darauf hin, dass der Agent nicht ausreichend eingeschränkt ist. Moderne KI-Sicherheit erfordert sogenannte "sandboxing" und Zugriffskontrolle. Ein Agent sollte nicht auf beliebige Systemdateien zugreifen können, sondern nur auf solche, die für seine Aufgaben notwendig sind.
Für Unternehmen, die KI-Agenten einsetzen möchten, ist dies ein wichtiges Lernmoment. KI-Systeme erfordern ebenso rigoros Sicherheitstests und Kontrollen wie traditionelle Software. Es reicht nicht aus, ein KI-Modell zu kaufen und einzusetzen. Unternehmen sollten sicherstellen, dass KI-Agenten in ihrer Umgebung streng sandboxed sind und nur auf die Ressourcen zugreifen können, die für ihre Aufgaben notwendig sind.