Künstliche Intelligenz bewegt sich hin zu autonomen Systemen, die nicht nur Aufgaben ausführen, sondern diese selbst planen und optimieren können. Solche «Agentic»-Systeme können komplexe Workflows durchführen, Entscheidungen treffen und sogar ihre Vorgehensweise an verändernde Bedingungen anpassen. Das eröffnet enormes Potenzial für Effizienzsteigerungen in der Wirtschaft.
Allerdings bringt diese Autonomie auch neue Anforderungen mit sich, insbesondere für Enterprise-Umgebungen. Eine reine Integration von KI-Modellen reicht nicht mehr aus, wenn diese Modelle eigenständig Entscheidungen treffen können. Stattdessen braucht es ein durchdachtes Kontrollsystem, das sicherstellt, dass autonome Agenten im Rahmen vordefinierter Regeln und Ziele operieren und nicht «aus dem Ruder laufen».
Das Konzept der «Agentic-Native Architecture» adressiert genau diese Herausforderung. Es bedeutet, dass bei der Gestaltung von Enterprise-IT-Architekturen von Anfang an berücksichtigt wird, wie autonome Agenten eingebunden, überwacht und kontrolliert werden. Das umfasst mehrere Aspekte: Governance und Policies, die definieren, welche Agenten welche Aktionen durchführen dürfen. Logging und Monitoring, um die Aktivitäten nachzuverfolgen und Anomalien zu erkennen. Rollback-Mechanismen für den Fall, dass ein Agent zu unerwarteten Ergebnissen führt. Und schliesslich eine klare Eskalationskette, wann und wie menschliche Übersicht eingreift.
Für KMU, die KI-Agenten einsetzen möchten, um Prozesse zu automatisieren, ist dies ein wichtiger Punkt. Eine ordentliche Kontrolle und Überwachung ist nicht nur eine Best Practice, sondern wird zunehmend ein Compliance-Requirement. Unternehmen sollten daher schon früh klare Richtlinien entwickeln, wie autonome Systeme in ihre IT-Infrastruktur integriert werden und wie Verantwortlichkeit gewährleistet bleibt.