Mit dem neuen Open-Source-Projekt "AI Safety and Governance Orchestration" (Asago) möchte Red Hat gemeinsam mit führenden Unternehmen und Forschungseinrichtungen einen standardisierten Ansatz zur Automatisierung von Sicherheit und Governance im Kontext von künstlicher Intelligenz schaffen. Die Initiative adressiert eine wachsende Herausforderung in der Industrie: Wie lassen sich KI-Systeme sicher, konform und kontrolliert in Unternehmensumgebungen betreiben?
Organisationen, die KI-Modelle einsetzen, sehen sich zunehmend mit komplexen Anforderungen konfrontiert. Regulatorische Vorschriften wie die EU AI Act, interne Governance-Richtlinien, Datenschutzvorgaben und Sicherheitsstandards müssen parallel überwacht und durchgesetzt werden. Dies manuell zu tun ist nicht skalierbar und fehleranfällig. Asago soll hier Abhilfe schaffen, indem es diese Prozesse automatisiert und orchestriert.
Das Projekt verfolgt das Ziel, Best Practices für den sicheren Betrieb von KI-Systemen zu standardisieren und Tools bereitzustellen, die diese Vorgaben technisch durchsetzen. Dies umfasst beispielsweise automatische Compliance-Checks, kontinuierliche Überwachung von KI-Modellen auf unerwünschte Verhaltensweisen, Auditierbarkeit von KI-Entscheidungsprozessen und Integration mit bestehenden IT-Governance-Rahmenwerken.
Für Unternehmen, insbesondere KMU, die KI-Technologien produktiv nutzen möchten, wird Asago langfristig ein wichtiges Werkzeug darstellen. Es hilft dabei, KI-Projekte verantwortungsvoll und regulatorisch konform zu implementieren, ohne dabei in bürokratische Lähmung zu verfallen. Die Open-Source-Natur des Projekts bedeutet zudem, dass Organisationen nicht von einem einzelnen Anbieter abhängig sind und die Lösung ihren spezifischen Anforderungen anpassen können.