Eine bedeutende Sicherheitslücke wurde in den führenden KI-Systemen von OpenAI, Anthropic und Google entdeckt. Die Schwachstelle ermöglicht es, die sogenannten Sicherheitsmechanismen und inneren Abwägungsprotokolle dieser Systeme auszulesen. Das ist besonders bemerkenswert, weil diese Prozesse normalerweise verborgen bleiben und die KI-Anbieter sie als geschützte Bestandteile ihrer Systeme betrachten.
Das Funktionsprinzip der Lücke ist überraschend: Angreifer können kleinere, ebenfalls von denselben Anbietern entwickelte Modelle als Werkzeuge missbrauchen, um die Geheimnisse der Top-Systeme zu enthüllen. Wenn man ein komplexes KI-System dazu bringt, seine inneren Überlegungen an ein kleineres Modell weiterzugeben, können diese Informationen extrahiert und im Klartext gelesen werden. Dies gefährdet die technologische Geheimhaltung und könnte auch für böswillige Akteure interessant sein, um Sicherheitsmechanismen zu umgehen.
Das Besondere an dieser Schwachstelle ist, dass sie eine Architektur-Ebene betrifft. Es geht nicht nur um einen einzelnen Fehler, sondern um ein grundsätzliches Design-Problem bei der Kommunikation zwischen verschiedenen KI-Modellen desselben Anbieters. Dies deutet darauf hin, dass das Problem bei mehreren Systemen auftritt und schwer zu flicken sein könnte.
Für Unternehmen, die KI-Systeme in sensiblen Bereichen einsetzen oder sich auf KI-Sicherheit verlassen, ist dies ein wichtiger Hinweis auf die Grenzen von Vertrauen in KI-Anbieter. Die Entdeckung betont auch, wie schwierig es ist, KI-Systemen echte Sicherheitsschranken aufzuzwingen, die nicht durch Umwege zu unterlaufen sind. Sicherheitsforscher und KI-Anbieter müssen jetzt intensiv zusammenarbeiten, um solche Lücken zu schliessen und robustere Sicherheitsarchitekturen zu entwickeln.