Ein Phänomen zeichnet sich in der modernen Softwareentwicklung und im IT-Service-Management ab: Automatisierte Agenten übernehmen zunehmend die Kommunikation untereinander. Maschinen schreiben Fehlerberichte (Issues) und andere Maschinen beantworten sie. E-Mails und Support-Tickets stammen von automatisierten Systemen. Diese Entwicklung ist einerseits effizient, wirft aber auch Fragen zu Authentizität und Kontrollierbarkeit auf.
Technisch sind automatisierte Agenten unter bestimmten Bedingungen tatsächlich eine sinnvolle Lösung. Sie können repetitive Tasks schneller und konsistenter durchführen als Menschen. Ein KI-gestütztes Support-System kann häufige Anfragen sofort beantworten. Automatisierte Deployments und Integrationen sparen Zeit. Doch problematisch wird es, wenn diese Systeme völlig intransparent wirken oder wenn menschliche Beteiligung völlig entfällt.
Das zentrale Risiko liegt darin, dass Menschen nicht mehr verstehen, was die Agenten untereinander austauschen und koordinieren. Wenn nur noch Maschine mit Maschine kommuniziert, können Fehler oder Anomalien lange unbemerkt bleiben. Auch entstehen neue Sicherheitsrisiken: Wenn automatisierte Systeme ohne menschliche Validierung Befehle ausführen oder Zugriffsrechte vergeben, kann ein kompromittierter Agent Schaden anrichten, bevor jemand es bemerkt.
Für KMU ist diese Entwicklung wichtig zu verstehen. Wenn Automatisierung in der IT-Infrastruktur eingeführt wird, sollten Kontrollebenen und menschliche Überprüfungspunkte erhalten bleiben, besonders bei geschäftskritischen Prozessen. Vollständige Black-Box-Automatisierung ohne Logging und menschliche Auditierbarkeit ist ein Sicherheitsrisiko. Best Practice ist es, automatisierte Systeme regelmässig zu monitoren, Logs zu prüfen und kritische Entscheidungen weiterhin von Menschen zu treffen oder zu validieren. Die Effizienzgewinne durch Automatisierung dürfen nicht auf Kosten von Transparenz und Kontrollierbarkeit gehen.