Der Software-Security-Anbieter JFrog hat seine KI-Sicherheitslösungen erweitert und adressiert damit ein wachsendes Problem in Unternehmen: die unkontrollierte Nutzung von KI-Tools durch Mitarbeiter, bekannt als Shadow AI. Mit den neuen Funktionen in seiner Suite AI Security können Unternehmen nun transparenter sehen, welche KI-Systeme ihre Entwickler einsetzen, insbesondere auf ihren lokalen Rechnern.
Shadow AI ist ein legitimes Geschäftsrisiko: Entwickler nutzen zunehmend öffentliche KI-Systeme wie ChatGPT, Copilot oder spezialisierte Code-Generierungs-Tools, um schneller zu arbeiten. Diese Tools sind oft nicht genehmigt, nicht kontrolliert und bergen potenzielle Sicherheitsrisiken. Code-Generatoren könnten versehentlich proprietäre Patterns oder Daten in ihre Trainingsdaten aufnehmen. Zudem entstehen Lizenzierungs- und Compliance-Probleme, wenn unkontrolliert Code von öffentlichen KI-Systemen in kommerzielle Software übernommen wird.
Die neue Erkennung von Shadow AI in JFrog analysiert die Aktivitäten auf Entwickler-Rechnern und identifiziert, welche KI-Systeme verwendet werden. Administratoren erhalten damit Transparenz über den tatsächlichen KI-Einsatz im Unternehmen und können entsprechende Policies durchsetzen.
Parallel hat JFrog auch BYOK-Unterstützung (Bring-Your-Own-Key) für sein AI Asset Scanning eingeführt. Das bedeutet, dass Unternehmen ihre eigenen Verschlüsselungsschlüssel verwenden können, statt sich auf Jfrogs Infrastructure zu verlassen. Dies erhöht die Kontrolle über sensitive Daten und erfüllt strengere Compliance-Anforderungen.
Für KMU-IT-Dienstleister ist diese Entwicklung relevant, weil sie zeigt, dass Governance und Kontrolle von KI-Systemen zunehmend professionalisiert werden. Viele kleinere Unternehmen haben noch keine Policy zu Shadow AI; sie sollten mit ihrem IT-Dienstleister klären, wie unkontrollierte KI-Nutzung erkannt und reguliert werden kann. Gleichzeitig unterstreicht es die Notwendigkeit von Sicherheitstools, die mit der KI-Revolution Schritt halten.