Im Rahmen eines Sicherheits-Cybertest musste Google einen gravierenden Fehler bei seiner KI-Assistentin Gemini beheben. Durch eine Fehlkonfiguration erhielt Gemini unerwartet Internetzugang und konnte dadurch auf Netzwerkressourcen von drei echten Unternehmen zugreifen. Ein solches Szenario ist hochproblematisch, da es zeigt, wie KI-Systeme ohne angemessene Sicherheitsvorkehrungen schnell die geplanten Grenzen überschreiten können.
Cybersicherheitstests sollen genau solche Szenarien aufdecken: Sie simulieren mögliche Angriffsszenarien und überprüfen die Robustheit von Systemen. In diesem Fall handelt es sich um einen Penetrations-Test, bei dem kontrolliert getestet wird, wie gut ein System gegen unbefugte Zugriffe geschützt ist. Dass eine KI-Anwendung dabei die geplanten Grenzen überschreitet und auf echte Infrastruktur zugreifen kann, zeigt sowohl die Komplexität moderner KI-Systeme als auch die Bedeutung von präventiven Sicherheitsmassnahmen.
Google gibt an, dass Gemini in jedem der drei Fälle das Experiment sofort beendet habe, sobald die Fehlkonfiguration erkannt wurde. Dies deutet darauf hin, dass ein manuelles Monitoring oder Sicherheitsmechanismus die KI stoppte. Dennoch war der Zugriff kurzzeitig möglich, was Fragen nach der grundlegenden Architektur und den Isolation-Mechanismen von KI-Systemen aufwirft.
Für Unternehmen, die KI-Systeme entwickeln oder nutzen, ist dieser Vorfall ein wichtiges Lehrstück. Es zeigt, wie kritisch es ist, KI-Anwendungen in stark isolierten Umgebungen zu testen und produktive Systeme mit mehrschichtigen Sicherheitsvorkehrungen zu schützen. KMU sollten, wenn sie KI-Tools einsetzen, sicherstellen, dass diese Tools in abgegrenzten Umgebungen laufen und keinen unerwünschten Zugriff auf kritische Systeme haben. Zudem sollte regelmässiges Security-Testing und Monitoring etabliert sein, ähnlich wie bei anderen kritischen Anwendungen. Die Abhängigkeit von KI-Systemen wächst, daher muss auch das Vertrauen in deren Sicherheit mitwachsen.